Software na předvídání trestných činů

Všechno, co píšete na Facebooku, s kým nejčastěji komunikujete na sociálních sítích nebo koho sledujete na Instagramu, může policii pomoci zjistit, zda jste spáchali nebo plánujete spáchat trestný čin. Umožňují to technologie, které analyzují data ze sociálních sítí k řešení a předvídání trestných činů. U odborníků i veřejnosti to ale vyvolává otázky ohledně narušení soukromí a etiky. Technologie navíc dokáží velmi jednoduše označit kohokoli za extremistu. Takovou technologií je i software společnosti Voyager.

Minority Report

Společnost Voyager Labs získává informace z různých profilů na sociálních sítích a pomáhá pak policii ve vyšetřování eventuálních hříšníků tím, že rekonstruuje celý jejich digitální život – veřejný i soukromý. Společnost tvrdí, že díky umělé inteligenci dokáže její software dešifrovat smysl a význam lidského chování na internetu a určit, zda konkrétní subjekty již trestný čin spáchaly, mohou spáchat nebo zda a jakou vyznávají ideologii. Jejich umělá inteligence nadto umí získat poznatky o „sociálním umístění“ jednotlivce nebo skupiny, může odhalit skryté vztahy a provést „analýzu lidské senzitivity“, na jejímž základě určí, jak se kdo ideologicky staví k různým tématům, včetně extremismu.

„Nespojujeme jen existující body,“ píše se v propagačním dokumentu Voyageru. „Vytváříme body nové. To, co se jeví jako náhodné a nepodstatné interakce, chování nebo zájmy, se najednou stává jasným a srozumitelným.“

Dokumenty, které získala nezisková organizace Brennan Center, však ukazují, že předpoklady, z nichž software při vyvozování těchto závěrů vychází, mohou být v rozporu s právem na svobodu projevu a náboženské vyznání, tedy s americkým prvním ústavním dodatkem. Tento zákon přitom patří k jedné z nejdůležitějších právních norem, ochraňuje svobody občanů v každé demokracii. 

Britský deník The Guardian ve svém rozsáhlém článku navíc popisuje, jaké eticky pochybné strategie Voyager využívá, aby získal přístup k informacím o uživatelích sociálních sítí, včetně toho, že umožňuje policii používat takzvané falešné osoby. Jedná se o vymyšlené identity, jež otevírají cestu ke skupinám nebo k soukromým profilům na sociálních sítích.

Projekt Pegasus: Napíchnutý Macron 

Kdo vlastně jsou a co dělají

Společnost Voyager Labs existuje od roku 2012 a je registrovaná jako Bionic 8 Analytics s kancelářemi v Izraeli, Washingtonu, New Yorku, Singapuru a v Londýně. Podle odborníků jsou její produkty jen malou rybou ve velkém rybníku technologických hráčů, kteří reagují na volání policejních orgánů po technologicky dokonalejších nástrojích, jež by rozšířily vyšetřovací možnosti.

Pro policii je přitažlivost takových nástrojů jasná: nové technologie by ráda využívala k rychlému, až k automatizovanému odhalování souvislostí, na které nejsou patřičné kapacity nebo zabírají spoustu času. Tyto nástroje by měly odhalovat například chování či stopy, jichž by si vyšetřovatel nemusel všimnout nebo je kvůli vnějším či vnitřním příčinám nedokázal zachytit. Vzhledem k velkému tlaku na orgány činné v trestním řízení, aby udržovaly nízkou míru kriminality a předcházely teroristickým útokům, je využití technologií umožňujících rychlé a efektivní rozhodování při prosazování práva atraktivní nabídkou. 

Pro veřejnost však může být policejní práce založená na informacích ze sociálních sítí noční můrou. V oblasti soukromí totiž fakticky kriminalizuje příležitostné výstřelky a někdy i normální chování, shodují se odborníci, kteří pro The Guardian přezkoumali dokumenty z Voyager Labs.

The Guardian již v minulosti informoval, že policejní útvary se často nechtějí vzdát možnosti tyto nástroje použít, a to ani navzdory protestům veřejnosti a nepříliš přesvědčivým důkazům, že by tyto technologie skutečně pomáhaly snižovat kriminalitu.

Na otázky reportérů The Guardian, s kým má Voyager uzavřené smlouvy a podle čeho jejich software vyvozuje závěry o ideologických postojích člověka, mluvčí společnosti Lital Carter Rosenn uvedla: „Jako společnost se řídíme zákony všech zemí, ve kterých podnikáme. Máme také důvěru, že ti, s nimiž obchodujeme, jsou veřejné i soukromé organizace dodržující zákony.“ Na druhou otázku pak odpověděla: „Voyager je softwarová společnost. Naše produkty jsou vyhledávací a analytické nástroje, které využívají umělou inteligenci a strojové učení.“ Mluvčí se tak vyjádřila přesně v duchu toho, co kritizují britským deníkem přizvaní odborníci, tedy fakt, že společnosti jako Voyager často používají módní slova typu „umělá inteligence“ a „algoritmy“, aby vysvětlily, jakými způsoby analyzují a zpracovávají informace, současně ale poskytují málo důkazů o tom, že jejich postup funguje.

Vlády špehovaly spywarem novináře, aktivisty i disidenty

Všechno se hodí

Jak vyplývá z dokumentů, způsob, jakým Voyager a jemu podobné firmy fungují, není složitý. Software Voyageru shromažďuje všechny dostupné veřejné informace o osobě nebo tématu – včetně příspěvků, spojení, a dokonce i emotikonů –, analyzuje je a indexuje a v některých případech je pak porovnává s neveřejnými informacemi. Ty získává ze soudních příkazů a prostřednictvím takzvané aktivní osoby (o tom později).

Interní dokumenty ukazují, že technologie takto vytváří topografii určité osoby na sociálních sítích, konkrétně se zabývá příspěvky uživatelů i jejich spojeními (přátelství, follows a podobně, ale i tím, jak silné jednotlivé vztahy jsou).

Software posléze vizualizuje, jak jsou přímá spojení dané osoby navzájem propojená a kde tato spojení fungují. Podobně reaguje i vůči takzvaným nepřímým spojením, kdy dvě osoby nejsou v přímém kontaktu, ale mají alespoň čtyři společné přátele. Program také zjišťuje všechna nepřímá spojení mezi subjektem a dalšími osobami, jež prověřovaný jedinec dříve vyhledával.

Dalekosáhlý sběr dat

Pokud osoba sledovaná softwarem od společnosti Voyager vymaže přítele nebo příspěvek ze svého profilu, informace zůstane nadále archivována v systému Voyager. Ten katalogizuje nejen kontakty subjektu, ale i veškerý obsah nebo média, která tyto kontakty zveřejnila, včetně aktualizací stavu, obrázků a polohy. Mimo to sleduje i přátelství druhého a třetího stupně, aby „odhalil dosud neznámé prostředníky nebo případy nevhodného spojení“.

Meredith Broussardová, profesorka datové žurnalistiky na New York University a autorka knihy Artificial Unintelligence: Jak počítače špatně chápou svět, pro The Guardian uvedla, že algoritmy Voyageru podle všeho vytvářejí hodnocení lidí na základě jejich online aktivit a používaných sítí, a to pomocí procesu, který se podobá cílení online reklamy.

„Systémy pro cílení reklamy,“ vysvětluje Broussardová, „zařazují lidi do ‚afinitních skupin‘. Na základě jejich přátel a kontaktů určují, kdo bude mít nejpravděpodobnější zájem například o koupi nového auta. Zdá se, že Voyager místo toho, aby rozděloval lidi do skupin, jako jsou třeba majitelé domácích mazlíčků, rozděluje lidi do ‚skupin‘ pravděpodobných zločinců.“

V souvislosti s reklamou se podle profesorky mnoho spotřebitelů s tímto typem cílení smířilo. V případě policejní kontroly ovšem vyvstávají daleko větší rizika a problémy. 

Data retention hezky česky

Software nerozlišuje

O jaká rizika jde, lze pochopit na exemplární studii, kterou Voyager předložil losangeleské policii, když usiloval o uzavření smlouvy. Společnost prezentovala způsoby, jakými by analyzovala profil Adama Alsahliho na sociálních sítích. Šlo o mladíka, jenž byl loni zabit při pokusu o útok na námořní základnu Corpus Christi v Texasu.

Společnost napsala, že její software využívá umělou inteligenci k tomu, aby zkoumal, zda mají určené subjekty vazby na islámský fundamentalismus. Pak tyto profily barevně označuje jako zelené, oranžové nebo červené.

V Alsahliho případě jim vyšlo, že jeho aktivita na sociálních sítích odráží „islámský fundamentalismus a extremismus“. Vyšetřovatelům pak bylo navrženo, aby dále prověřili Alsahliho účty s cílem „určit intenzitu a povahu jeho přímých a nepřímých vazeb na další zájmové osoby“.

Z dokumentů však vyplývá, že nemálo aspektů, jež software Voyageru u Alsahliho označil za znaky fundamentalismu, může být rovněž kvalifikováno jako projevy svobody nebo náboženského vyznání. Voyager například uvedl, že 29 z 31 Alsahliho příspěvků na Facebooku byly obrázky s islámskou tematikou a jedna z přezdívek Alsahliho účtu na Instagramu odrážela „jeho hrdost a ztotožnění se s arabským původem“. K analogicky zjednodušujícím závěrům, jež přitom hrozí automatickým označení za fundamentalistu, software dospěl i po zkoumání účtů, které Alsahli sledoval nebo které sledovaly jeho. Na základě toho společnost konstatovala, že „většina účtů je v arabštině“ – jde o jeden ze sta jazyků, které software údajně dokáže překládat – a „obecně se zdá“, že jde o účty s náboženským obsahem. Voyager z toho vyvodil, že Alsahli na svém twitterovém účtu většinou komunikoval o islámu. Jak bylo řečeno, Adam Alsahli se o teroristický útok pokusil, z dokumentů lze ale vyčíst, že software společnosti Voyager může jako fundamentalistu onálepkovat jakéhokoli muslima nebo kohokoli, kdo komunikuje arabsky a píše o islámu. 

Falešní přátelé a soukromé zprávy

Podle odborníků vytváří software Voyageru z veřejně dostupných informací poměrně komplexní obraz o soukromém životě člověka. Společnost však tyto údaje doplňuje o neveřejné informace, k nimž získává přístup dvěma hlavními kanály: soudními příkazy a prostřednictvím „aktivní osoby“.

V prvním případě technologie prochází obrovské množství údajů, jež orgány činné v trestním řízení získávají z různých typů soudních příkazů. Tyto informace mohou zahrnovat soukromé zprávy subjektů, informace o jejich poloze nebo klíčová slova, která vyhledávaly na internetu. Voyager katalogizuje a analyzuje tyto často rozsáhlé zásoby uživatelských dat a porovnává je se sociálními a geografickými mapami sestavenými z veřejných informací. Právě tuto schopnost policisté z Los Angeles ocenili jako vhodnou pomoc.

Méně podrobností je ale známo o druhém prostředku, jímž software Voyageru získává přístup k neveřejným informacím: o prémiové službě nazvané aktivní osoba. Z dokumentů vyplývá, že zákazníci mohou používat ke „shromažďování a analýze informací, které jsou jinak nepřístupné“, to, co Voyager nazývá „avatary“. Společnost uvedla, že pomocí funkce „active persona“ byl její software schopen dostat se k informacím ze šifrované aplikace pro zasílání zpráv Telegram a analyzovat je. 

Odborníci se shodují, že funkce aktivní osoba je pouze jiný název pro falešné profily. Důstojník losangeleské policie to ve své e-mailové korespondenci s Voyagerem popsal jako možnost „přihlásit se pomocí falešných účtů a vytáhnout data“. Policisté sice stále častěji používají falešné profily na sociálních sítích k provádění vyšetřování, tato praxe ale může porušovat komunitní standardy Facebooku a dalších platforem.

Pravidla Facebooku vyžadují, aby lidé používali „jméno, pod kterým vystupují v každodenním životě“. Společnost pak odstraňuje nebo dočasně omezuje účty, jež „ohrožují bezpečnost jiných účtů“ nebo se snaží vydávat za jiné. V roce 2018 policie v Memphisu ve státě Tennessee použila falešný účet pod jménem Bob Smith, aby se spřátelila s aktivisty a shromažďovala o nich informace. Facebook tento účet a další podobné deaktivoval a policejnímu oddělení sdělil, že musí „ukončit veškeré aktivity na Facebooku, zahrnující používání falešných účtů nebo vydávání se za jiné osoby“. Facebook uvedl, že všichni, včetně orgánů činných v trestním řízení, musí na svých profilech vystupovat pod svými skutečnými jmény.

Projekt Pegasus: Apple versus špioni

Podle odborníků se s touto funkcí software společnosti Voyager pojí také otázky týkající se soukromí a etiky. „Obávám se, jak nízký mají v tomto směru nastavený práh technologické společnosti, které výslovně umožňují policejní sledování,“ řekl pro The Guardian profesor Chris Gilliard z Macomb Community College a Shorensteinova centra na Harvard Kennedy School. Mimo tyto pochybnosti vyvolává software společnosti Voyager i další obavy. Oproti například telefonním odposlechům, jež může policie využít jen na základě soudního povolení, má k možnostem softwaru teoreticky přístup kdokoli. 

 

Autorka článku: Nina Kodhajová
Autorka úvodní grafiky: Lenka Matoušková