Dickovo Minority Report realitou? Aneb moderní Raskolnikovové s Trestem bez Zločinu
Je někoho možné potrestat na základě softwarové predikce?
Americký autor psychologické a filosofující sci-fi literatury Philip Kindred Dick napsal v roce 1956 povídku s názvem The Minority Report. Hlavním tématem povídky byla možnost predikovat zločin, a tak zabránit jeho provedení. Na základě tří jasnovidců (mutantů schopných vidět do blízké budoucnosti) je vytvořena nejpravděpodobnější budoucnost, občas se však objevuje tzv. menšinová zpráva, kdy jeden jasnovidec vidí budoucnost odlišně. V povídce pak dochází i k tomu, že žádná většinová zpráva (majority report) neexistuje, ale v případě “zločinu” hlavního protagonisty existují pouze tři minoritní zprávy (takže vlastně žádná zpráva není menšinová), což ukazuje na problematičnost jistoty jakéhokoliv předvídání, uznáme-li člověku svobodnou vůli, která není založená na předurčené budoucnosti. Povídku si můžete přečíst například v této sbírce nebo se můžete podívat na filmové zpracování, které se však trochu od své literární předlohy liší. Pojďme se teď podívat, jestli došel tento myšlenkový experiment nějaké realizace v realitě.
CrimeScan
CrimeScan je nástroj využívají umělé inteligence a dostupných dat k předvídání potencionálních “horkých míst”, neboli na základě geografického výskytu minulých i menších prohřešků vypočítává pravděpodobnost odehrání se zločinu v budoucnosti na konkrétním místě. Tedy není zde snaha předvídat provedení zločinu určitým jedincem, ale budoucnost odehrání se zločinu se vymezuje potencionálním prostorem. CrimeScan je kritizován za možné předsudky, které vytváří, protože svazuje danou lokalitu s její kriminální minulostí, a tak tvoří sousedství, která jsou “špatná” a která “dobrá”. Tvůrce CrimeScanu Daniel Neill vysvětluje, že jeho nástroj nemá sloužit jako rozhodovací systém, ale pouze jako systém podporující rozhodnutí. Konečné rozhodnutí tedy padá na hlavu člověka, a navíc ještě upozorňuje, že je potřeba algoritmu CrimeScanu porozumět a chápat jeho nedostatky i na úrovni řadového policisty, aby daná policejní patrola bezhlavě nezvyšovala v dané lokalitě agresivní přístup k jejím občanům.
PredPol
Druhým softwarem, který si zde v krátkosti představíme, je PredPol. PredPol funguje na víceméně stejném principu jako CrimeScan. Na základě historických dat obsahujících typ, místo a čas provedení zločinu s přihlédnutím k socio-ekonomickým datům se snaží algoritmus PredPolu předvídat zločin v rámci příštích 12 hodin. Je používán více jak 50 policejními odděleními v US a u některých oddělení v UK. Stejně jako CrimeScan čelí PredPol kritice zastánců lidských práv. Kritika se zaměřuje především na důsledky označování konkrétní lokace jako nebezpečné, v důsledku čehož mohou být tamní obyvatelé marginalizováni. Analytik Rand Corporation John Hollywood tvrdí, že technologické zprostředkování předvídání se v přesnosti oproti tradičním metodám označování “horkých míst” příliš neliší. Další obavou je transparentnost datasetu, který se k vyhodnocování predikce používá.
Předchozí dva příklady nejsou jedinými řešeními, která existují. Jako příklad však myslím postačují. Předvídání lokací možného budoucího zločinu není nic nového pod sluncem. Technologie umělé inteligence a strojového učení však umožňují efektivnější využití dat, která jsou policii k dispozici. Otázkou zůstává, kde je hranice mezi tím, jaká všechna data se mají sbírat a využívat pro predikci, a jaká již mohou ohrožovat danou komunitu předsudky. Z daných příkladů vyplývá, že predikce není vykonávána nad konkrétním jedincem, takže scénář z Minority Report se zdaleka ještě nekoná. Každý si však může představit, že v momentě “očipování lidstva” (které se ostatně již dnes částečně děje) a odvrácení se od tradičních hodnot soukromí může vést k ohrožení lidské svobody. Masovému nasazení čipů pro lidi a jejich případné využití v policejní predikci, tak nutně musí předcházet pečlivá diskuze. Jaký názor na to máte vy? Máme být Raskolnikovy bez Zločinu a přesto přijmout Trest?
