Dickovo Minority Report realitou? Aneb moderní Raskolnikovové s Trestem bez Zločinu

Jan Vokral
Feb 25 · 3 min read
Fotka od Gerd Altmann z Pixabay

Je někoho možné potrestat na základě softwarové predikce?

Americký autor psychologické a filosofující sci-fi literatury Philip Kindred Dick napsal v roce 1956 povídku s názvem The Minority Report. Hlavním tématem povídky byla možnost predikovat zločin, a tak zabránit jeho provedení. Na základě tří jasnovidců (mutantů schopných vidět do blízké budoucnosti) je vytvořena nejpravděpodobnější budoucnost, občas se však objevuje tzv. menšinová zpráva, kdy jeden jasnovidec vidí budoucnost odlišně. V povídce pak dochází i k tomu, že žádná většinová zpráva (majority report) neexistuje, ale v případě “zločinu” hlavního protagonisty existují pouze tři minoritní zprávy (takže vlastně žádná zpráva není menšinová), což ukazuje na problematičnost jistoty jakéhokoliv předvídání, uznáme-li člověku svobodnou vůli, která není založená na předurčené budoucnosti. Povídku si můžete přečíst například v této sbírce nebo se můžete podívat na filmové zpracování, které se však trochu od své literární předlohy liší. Pojďme se teď podívat, jestli došel tento myšlenkový experiment nějaké realizace v realitě.

Fotka od Gerd Altmann z Pixabay

CrimeScan

CrimeScan je nástroj využívají umělé inteligence a dostupných dat k předvídání potencionálních “horkých míst”, neboli na základě geografického výskytu minulých i menších prohřešků vypočítává pravděpodobnost odehrání se zločinu v budoucnosti na konkrétním místě. Tedy není zde snaha předvídat provedení zločinu určitým jedincem, ale budoucnost odehrání se zločinu se vymezuje potencionálním prostorem. CrimeScan je kritizován za možné předsudky, které vytváří, protože svazuje danou lokalitu s její kriminální minulostí, a tak tvoří sousedství, která jsou “špatná” a která “dobrá”. Tvůrce CrimeScanu Daniel Neill vysvětluje, že jeho nástroj nemá sloužit jako rozhodovací systém, ale pouze jako systém podporující rozhodnutí. Konečné rozhodnutí tedy padá na hlavu člověka, a navíc ještě upozorňuje, že je potřeba algoritmu CrimeScanu porozumět a chápat jeho nedostatky i na úrovni řadového policisty, aby daná policejní patrola bezhlavě nezvyšovala v dané lokalitě agresivní přístup k jejím občanům.

PredPol

Druhým softwarem, který si zde v krátkosti představíme, je PredPol. PredPol funguje na víceméně stejném principu jako CrimeScan. Na základě historických dat obsahujících typ, místo a čas provedení zločinu s přihlédnutím k socio-ekonomickým datům se snaží algoritmus PredPolu předvídat zločin v rámci příštích 12 hodin. Je používán více jak 50 policejními odděleními v US a u některých oddělení v UK. Stejně jako CrimeScan čelí PredPol kritice zastánců lidských práv. Kritika se zaměřuje především na důsledky označování konkrétní lokace jako nebezpečné, v důsledku čehož mohou být tamní obyvatelé marginalizováni. Analytik Rand Corporation John Hollywood tvrdí, že technologické zprostředkování předvídání se v přesnosti oproti tradičním metodám označování “horkých míst” příliš neliší. Další obavou je transparentnost datasetu, který se k vyhodnocování predikce používá.

Předchozí dva příklady nejsou jedinými řešeními, která existují. Jako příklad však myslím postačují. Předvídání lokací možného budoucího zločinu není nic nového pod sluncem. Technologie umělé inteligence a strojového učení však umožňují efektivnější využití dat, která jsou policii k dispozici. Otázkou zůstává, kde je hranice mezi tím, jaká všechna data se mají sbírat a využívat pro predikci, a jaká již mohou ohrožovat danou komunitu předsudky. Z daných příkladů vyplývá, že predikce není vykonávána nad konkrétním jedincem, takže scénář z Minority Report se zdaleka ještě nekoná. Každý si však může představit, že v momentě “očipování lidstva” (které se ostatně již dnes částečně děje) a odvrácení se od tradičních hodnot soukromí může vést k ohrožení lidské svobody. Masovému nasazení čipů pro lidi a jejich případné využití v policejní predikci, tak nutně musí předcházet pečlivá diskuze. Jaký názor na to máte vy? Máme být Raskolnikovy bez Zločinu a přesto přijmout Trest?

EDTECH KISK

Educational Technology, KISK Masaryk University

Jan Vokral

Written by

EDTECH KISK

Educational Technology, KISK Masaryk University

More From Medium

More on Iskm06 from EDTECH KISK

More on Iskm06 from EDTECH KISK

More on Iskm06 from EDTECH KISK

Nejznámější platformy MOOC

More on Iskm06 from EDTECH KISK

More on Iskm06 from EDTECH KISK

Otevřené vzdělávání

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade