Postupné naplňování orwellovské vize aneb Technologie odhalující identitu

Barbora Šambergerová
Mar 26 · 3 min read

Když před lety vymyslel australský vývojář Hoan Ton-That aplikaci, díky níž mohl člověk k fotce kohokoli přidělat typický účes amerického prezidenta Donalda Trumpa, stala se opravdovým hitem, u něhož se tisíce lidí pobavily. Avšak poté, co tentýž programátor přišel s nástrojem, který vede k odhalování identity lidí na základě fotografií a mohl by tak způsobit konec soukromí, jak ho dosud známe a chápeme, začaly diskuze okolo něj nabírat vážnějšího směru.

Technologie, jež vznikla pod Ton-Thatovýma rukama ve firmě Clearview AI, používá klasický systém na rozpoznávání obličejů, který už je dneska naprostou běžností využívanou nejen v policejních databázích, ale také třeba výrobci mobilních telefonů. Nebezpečí tohoto nástroje však vězí zejména v obrovské databázi, která obsahuje více než tři miliardy fotografií lidí z celého světa, jež byly staženy bez vědomí uživatelů například ze sociálních sítí, jako je Facebook, Instagram, YouTube či Twitter. Takové množství fotografií lidí neobsahují ani ty největší policejní databáze. Stačilo by tedy, když by vás někdo vyfotografoval na ulici (přičemž stačí, aby na fotce byla pouhá část vašeho obličeje) a použil tuto aplikaci, která by snímek srovnala s těmi, jež se nacházejí v připojené databázi. Rázem by dotyčný zjistil, kdo jste, neboť by mu aplikace našla vaše profily na sociálních sítích a vaše další, na internetu veřejně dostupné, snímky.

Jaké vzbudila technologie reakce?

Asi nikoho nepřekvapí, že vytvoření tohoto nástroje vzbudilo poměrně velkou vlnu kritiky na firmu, a to právě kvůli obavám, že by mohl být lehce zneužitelný. Již dříve kvůli strachu z ohrožení soukromí řada firem od vývoje technologie na rozpoznávání obličejů odstoupila.

Na používání technologie rozpoznávající obličeje z fotografií a videí již nepřistupuje například americké San Francisco, kde vedení města rozhodlo o zákazu jejího užívání policií. S návrhem, který by nepovoloval užívání nástroje, přišla také na začátku letošního roku Evropská komise. Ta by chtěla pozastavit rozpoznávání obličejů na veřejných místech alespoň na tři roky, výjimku by tvořily bezpečnostní složky a vývoj a výzkum technologie.

Firma Clearview AI se kritice odpůrců nástroje samozřejmě brání. Podle svých slov nedělají nic nelegálního, neboť jejich databáze je vytvořena z čistě veřejně dostupných zdrojů. Naopak je aplikace velmi přínosná, neboť díky ní se údajně podařilo zadržet desítky pachatelů trestných činů, od pedofilů až po klasické zloděje.

Závěrem…

Implementace technologií rozpoznávající tváře lidí na veřejných místech patří do velmi problematických oblastí k řešení, neboť na jednu stranu mají nepochybně svá pozitiva (zadržování zločinců, pátrání po pohřešovaných), avšak je velmi tíží obrovská rizika v podobě jejich zneužití a ohrožení demokracie států. Otázkou je, zda se však rozšiřování takových technologií dá vůbec zabránit (podobná aplikace, vytvořená však primárně jako seznamka, vznikla už v roce 2016 v Rusku). Odstrašujícím případem pro mnoho zemí může být alespoň Čína, která je proslulá jejich mohutným zaváděním na mnoha veřejných místech.

Na úplný závěr bych vám ráda doporučila zajímavý rozhovor Martina Veselovského s expertem na kamerové systémy Martinem Urbanem o možnosti zavádění kamerových systémů rozpoznávající obličeje na veřejných místech v Praze, o kterém se mluvilo minulý rok.

EDTECH KISK

Educational Technology, KISK Masaryk University

Barbora Šambergerová

Written by

EDTECH KISK

Educational Technology, KISK Masaryk University

More From Medium

More on Iskm06 from EDTECH KISK

More on Iskm06 from EDTECH KISK

More on Iskm06 from EDTECH KISK

Nejznámější platformy MOOC

More on Iskm06 from EDTECH KISK

More on Iskm06 from EDTECH KISK

Otevřené vzdělávání

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade