Pojednání o firmě Clearview AI: Možná nebezpečí spojená s technologií rozeznávání obličeje: Je to konec našeho soukromí?
Málokdo z nás nevlastní smartphone a málokterý smartphone nemá nějakou formu technologie rozeznávání obličeje, ať je to třeba jen schopnost poznat, že před fotoaparátem telefonu se nachází obličej, a zaostřit na něj. S vývojem technologií k rozeznávání obličeje vyvstává však vícero etických otázek.
Začněme pojednáním o samotné společnosti Clearview AI. Clearview AI je technologická společnost sídlící v Americe. Poskytuje software na rozeznávání obličeje orgánům výkonné moci a pomáhá jim takto například v boji proti zneužívání dětí nebo proti krádeži. Pro polici technologie rozeznávání obličeje není až tak nová, ovšem dříve se musela spoléhat pouze na vládou dodané fotografie, jako např. fotografie z občanských a řidičských průkazů. Systém společnosti Clearview AI tyto limitace nemá, neboť pracuje s velmi obsáhlou databází fotografií ze sociálních stítí. Orgány výkonné moci nejsou ovšem jedinými klienty, navzdory tomu, že Clearview o sobě tvrdí, že je nástrojem pro orgány výkonné moci a pro nikoho jiného. Přístup ke své databázi poskytla společnost Clearview AI například i společnosti Walmart, Macy’s, NBA, některým středním školám.(1)
Za vznikem firmy Clearview AI stojí Hoan Ton-That, vývojář z Austrálie, a Richard Schwarz, který svého času pracoval s Rudolphem W. Giulianim, když byl starostou New Yorku. Hoan Ton-That se vždy zajímal o technologie. V roce 2009 vydal stránku, na níž lidé mohli sdílet odkazy na videa a psát si soukromé zprávy, tuto stránku později stáhnul. V roce 2015 byl Hoan Ton-That znám jako tvůrce lehce zábavné aplikace, v níž uživatel mohl na svoji fotku přidat notoricky známý účes Donalda Trumpa. Začal se více zajímat o technologii rozeznávání tváře a v roce 2016 potkal Richarda Schwarze, s nímž začal spolupracovat. Hoan Ton-That měl na starosti tvorbu aplikace a Richard Schwarz PR stránku věci. Firma vznikla v roce 2017, větší pozornost k sobě přitáhla až v roce 2019. Prvními platícími zákazníky firmy Clearview AI byly policejní složky v Indianě. Velkým skokem v popularitě byly třicetidenní zkušební verze aplikace. S aplikací se dobře pracovalo a strážníci většinou přesvědčili svá oddělení k zakoupení předplatného.
Základem aplikace firmy Clearview AI je už několikrát zmíněná technologie rozeznávání obličeje. Takových aplikací je ovšem spousta, to není nic přelomového. To, čím se Clearview AI liší od ostatních, je obrovská databáze dat, s níž tato aplikace pracuje. Páteří (2) tohoto systému je databáze s více než třemi miliardami fotografií staženými z Facebooku, Venmo, Twitteru, Youtube a milionů dalších stránek, včetně například lokálních novinových plátků, středoškolských ročenek atd. Mnohé z těchto platform prohlásily, že je proti jejich pravidlům provozu stahovat fotografie tímto způsobem. Clearview porušuje podmínky užívání. „’A lot of people are doing it,’ Mr. Ton-That shrugged. ‘Facebook knows.’“(3)
Nahráním fotografie do aplikace společnosti Clearview AI vyhledáte nejen všechny dostupné fotografie, které byly subjektem fotografie nahrány na internet, ale i ty fotografie dané osoby, které nahrál na internet někdo jiný, a k tomu všemu dohledáte i identifikaci této osoby (jméno, adresu, zaměstnání a více). Jsou zde určité problémy s přesností. Nejpřesněji je aplikace schopna určit identitu osob mužského pohlaví a bílé pleti. Naopak největší chybovost má tato technologie u lidí tmavé pleti, u Asijců a u žen. Na druhou stranu Clearview nepotřebuje k určení identity čistou fotku osoby dívající se přesně do objektivu fotoaparátu: systém Clearview dokáže určit identitu i člověka, který je z profilu, má na očích sluneční brýle, na hlavě klobouk nebo jehož tvář není vidět celá. Podle zástupců Clearview je systém schopen určit identitu osoby v 75 % případů. Zatím nebylo vykonáno žádné nezávislé šetření, žádný nezávislý průzkum, který by určil, zda je určování identity společností Clearview opravdu přesné. “The larger the database, the larger the risk of misidentification because of the doppelgänger effect. They’re talking about a massive database of random people they’ve found on the internet.”(4)
Clearview má také samozřejmě přístup ke všem hledáním, která jsou skrze něj uskutečněna. Vyhledávají-li policejní složky možné pachatele trestných činů, pak má Clearview velkou databázi podezřelých a lidí, kteří byli odsouzeni za trestné činy/přestupky. Clearview může také manipulovat s výsledky, které se vyhledávající osobě zobrazují.(5)
Podobnou technologii byl schopný vyprodukovat například i Google, tehdejší (2011) předseda Googlu ovšem prohlásil, že tuto technologii pozastavili ve vývoji, protože by mohla být použita „in a very bad way“. (6) New York Times píše: „’The weaponization possibilities of this are endless,’ said Eric Goldman, co-director of the High Tech Law Institute at Santa Clara University. ‘Imagine a rogue law enforcement officer who wants to stalk potential romantic partners, or a foreign government using this to dig up secrets about people to blackmail them or throw them in jail.’“ (7)
Technologie rozpoznávání tváří může být použita jako nástroj boje proti kriminalitě, ale také nástroj absolutní kontroly nad obyvatelstvem. Čína je tohoto zářným příkladem. (8) Velké množství kamer v ulicích zajišťuje neustálý dozor, vládou používaný software dokáže rozpoznat obličej, přiřadit k němu občanský průkaz, SPZ auta, příbuzné, dokáže vysledovat pohyby jednotlivce až týden zpátky. Vláda ví, s kým se často stýkáte, kam chodíte na kávu. Momentálně panuje podezření, že je tato technologie užívána proti účastníkům protestů hnutí Black Lives Matter. (9)
Odhlédneme-li na chvíli od užívání této technologie vládami a velkými korporacemi, uvědomíme si, že i v rukou jednotlivce může tato technologie být nebezpečná. Je například ideálním nástrojem obsesivního partnera nebo stalkera. Někteří odborníci se obávají, že technologii rozeznávání obličeje nedokážeme implementovat do běžného života bez toho, aby nám hrozilo zneužití této technologie ke kontrole obyvatelstva. Což si ostatně zjevně uvědomuje i Hoan Ton-That: „There’s always going to be a community of bad people who will misuse it.“ (10) Hoan Ton-That prohlásil, že jsou země, kterým by nikdy přístup do Clearview neprodal, jmenovitě Čína, Rusko, Irán, Severní Korea, ale když byl dotázán, zda by prodal přístup do Clearview zemím, které vnímají homosexualitu jako trestný čin, podal Hoan Ton-That jen mlhavou odpověď. BuzzFeed News zjistilo, že Clearview nabídlo své služby mimo jiné také Saudské Arábii a Spojeným Arabským Emirátům. (11)
Tato technologie představuje svět, ve kterém od chvíle, kdy vyjdeme na ulici, ztrácíme anonymitu, a jsme neustále pozorováni. Podle Meredith Whittakerové z AI Now musíme tuto technologii prozatím pozastavit, aby státy měly dostatek času přijmout potřebné zákony. Někde určitá omezení panují už teď, například stát San Francisco zakazuje užívání technologie na rozpoznávání obličejů na veřejných prostranstvích, Francie a Švédsko vydaly zákaz užívání této technologie na školách. Evropská unie chce zakázat užívání této technologie na veřejných místech po dobu nadcházejících tří až pěti let. (12) V Anglii jsou zóny, kde je identita občanů tímto způsobem rozpoznávána, označeny značkou. Stát Illinois vyžaduje získání písemného souhlasu člověka, na nějž je tato technologie uplatňována.
Jak bylo již zmíněno výše, tato technologie přináší revoluci v dopadání pachatelů trestných činů. Díky videozáznamu trestného činu pořízeného kolemjdoucím může policie i do několika minut identifikovat a dopadnout pachatele. V rámci koronavirové krize může tato technologie být užívána například i pro sledování tělesné teploty lidí; tak se dá určit podezření na koronavirus, následně se dá vysledovat, s kým byl daný nakažený člověk v kontaktu, tito lidé se odešlou do karantény a šíření viru je významně zpomaleno. Vrací se sem ovšem filozofická otázka, která byla nastíněna již na začátku: Jsme srozuměni s tím, co to pro náš běžný život znamená? Znamená to, že když nám někdo ukradne kabelku, je možné, že jej již do několika minut stihne spravedlivý trest, naše cenné věci se nám vrátí a my si nemusíme nechávat zablokovat kartu. Může to také ovšem znamenat, že si dáme odpoledne v kavárně kávu a po příchodu domů zjistíme, že na nás u vchodu čeká cizí člověk, kterého jsme nikdy v životě neviděli, ale který bez našeho vědomí pořídil naši fotografii a skrze (například) Clearview zjistil naše jméno a adresu a teď stojí u našich domovních dveří a chce si povídat. Může to znamenat, že budeme schopni zabránit velkému množství sexuálního a jiného násilí na dětech. Budeme moci zaznamenat podezřelý pohyb v okolí školy, identifikovat člověka, který se v určitou dobu pravidelně pohybuje v okolí školy, a překazit mu jeho plány. Může to také znamenat, že náš partner bude vědět o každém našem kroku. Může to znamenat, že vláda bude vědět, s kým se stýkáme, jestli se nestýkáme s „nepohodlnými“ lidmi, případně kde se s těmito lidmi stýkáme. Bude moci nejen bezpečně identifikovat takovéhoto „nepohodlného“ člena společnosti, bude ho také moci s poměrně velkou přesností vystopovat, najít lidi, kteří jsou s ním v nějakém spojení, udělat opatření i vůči jeho rodině atd. Je třeba se zde zamyslet, jestli nám to za to stojí. Na jedné misce vah máme usnadnění práce složek výkonné moci, na druhé misce vah máme téměř totální eliminaci anonymity a soukromí na veřejných prostranstvích. Nakolik je pro nás naše soukromí důležité? Nakolik věříme, že toto obrovské množství velice přesných osobních informací, nebude proti nám využito?
Nebavíme se zde o tom, zda bude v tomto světě technologie rozeznávání tváří uvedena v činnost, nebo ne. Tato otázka už je pasé. Je třeba ovšem zajistit, abychom vůči ní nebyli bezbranní. Je třeba zajistit, aby naše legislativa byla na tuto technologii připravená, abychom se nedostali do situace, kdy se budou dít protizákonné věci, na něž ovšem nebudou zatím zákony, pomocí kterých by se dali příslušní viníci hnát k odpovědnosti.
Zdroje:
(1) GILLBERT, Ben. Clearview AI scraped billions of photos from social media to build a facial recognition app that can ID anyone: here’s everything you need to know about the mysterious company. In: Business Insider [online]. Mar 6, 2020, 6:31 PM [cit. 2020–06–15]. Dostupné z: https://www.businessinsider.com/what-is-clearview-ai-controversial-facial-recognition-startup-2020-3
(2–7, 10) HILL, Kashmir. The Secretive Company That Might End Privacy as We Know It. In: The New York Times [online]. Feb. 10, 2020 [cit. 2020–06–15]. Dostupné z: https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html
(8) BYLER, Darren. China’s hi-tech war on its Muslim minority. In: The Guardian [online]. Thu 11 Apr 2019 06.00 BST [cit. 2020–06–15]. Dostupné z: https://www.theguardian.com/news/2019/apr/11/china-hi-tech-war-on-muslim-minority-xinjiang-uighurs-surveillance-face-recognition
(9, 11) OLIVER, John. Last Week Tonight with John Oliver (HBO): Facial Recognition. In: Youtube.com [online]. HBO: Last Week Tonight, 15. 6. 2020 [cit. 2020–06–15]. Dostupné z: https://www.youtube.com/watch?v=jZjmlJPJgug
(12) TRUCHLÁ, Helena. Konec soukromí, jak ho známe. Aplikace umí odhalit identitu i náhodného kolemjdoucího. Aktuálně.cz: Zprávy [online]. 24. 1. 2020 6:31 [cit. 2020–06–15]. Dostupné z: https://zpravy.aktualne.cz/zahranici/nova-aplikace-muze-znamenat-konec-soukromi-varuje/r~236449d43cff11eaa24cac1f6b220ee8/
KAVI, Samuel. Společnost Clearview AI, která eviduje miliardu obličejů uživatelů sociálních sítí, byla hacknuta. OTechnice.cz [online]. Pondělí 2.3.2020 [cit. 2020–06–15]. Dostupné z: https://www.itsec-nn.com/clearview-ai-byl-odcizen-cely-seznam-klientu/
STATT, Nick. Clearview AI to stop selling controversial facial recognition app to private companies. In: The Verge [online]. May 7, 2020, 8:29pm EDT [cit. 2020–06–15]. Dostupné z: https://www.theverge.com/2020/5/7/21251387/clearview-ai-law-enforcement-police-facial-recognition-illinois-privacy-law
Police Surveillance: Facial Recognition Use in Your Backyard. In: Muckrock [online]. [cit. 2020–06–15]. Dostupné z: https://www.muckrock.com/project/police-surveillance-facial-recognition-use-in-your-backyard-452/
CRUZ, Megan a Katlyn BRIESKORN. Florida law enforcement agencies use facial recognition to identify alleged thief. In: Orlando News, Weather And Sports [online]. WFTV, December 27, 2019–10:23 PM [cit. 2020–06–15]. Dostupné z: https://www.wftv.com/news/local/florida-law-enforcement-agencies-use-facial-recognition-identify-alleged-thief/SGHPUGB5W5CX3FYVSLU7P6EV7I/
MAC, Ryan, Caroline HASKINS a Logan MCDONALD. Clearview’s Facial Recognition App Has Been Used By The Justice Department, ICE, Macy’s, Walmart, And The NBA. In: BuzzFeed News [online]. February 27, 2020, at 11:37 p.m. ET [cit. 2020–06–15]. Dostupné z: https://www.buzzfeednews.com/article/ryanmac/clearview-ai-fbi-ice-global-law-enforcement
