Perché il riconoscimento facciale in mano alla polizia è un problema — Wired
Gli esperti di tutto il mondo chiedono più garanzie alle forze armate che usano l’intelligenza artificiale per riconoscere le persone. E un report della ong AlgorithmWatch ha scoperto qual è la situazione oggi in Europa
L’ong AlgorithmWatch ha pubblicato un report sull’uso che viene fatta dalle forze di polizia in Europa delle tecnologie di riconoscimento facciale. L’ong, che lavora proprio sull’impatto che l’intelligenza artificiale può avere sulla società, ha inviato un questionario alle forze dell’ordine di 25 stati membri dell’Ue, scoprendo che in 10 paesi queste tecnologie sono già in uso e in 5 c’è comunque l’intenzione di usarle presto, mentre solo in Spagna e Belgio non è al momento consentita (in 4 casi le forze di polizia non hanno inviato le loro risposte).
Sul report si legge che già negli anni Settanta del 1800 il francese Alphonse Bertillon raccolse decina di migliaia di carte contenenti le generalità dei senzatetto, inclusa la loro foto segnaletica, perché si pensava fossero più propensi a commettere crimini: di fatto quel giorno nacquero le basi della moderna biometria.
Come e dove viene usato oggi il riconoscimento facciale
Al momento questa tecnologia viene usata in Europa perlopiù ai controlli in aeroporto o per sbloccare il proprio smartphone, soprattutto da quando questi sono a tutto schermo e usano sempre meno le impronte digitali. Ma la facial recognition si usa anche per aprire un conto online dove è sufficiente fare una foto al proprio documento d’identità e farsi un selfie. Certamente il suo uso è minore in Europa (e in Italia, anche) rispetto ad altri paesi come Cina e Stati Uniti: in Cina viene usato anche solo per pagare e sta sostituendo il telefono, che i cinesi usano per tutto. L’impatto è enorme, se si pensa che molte delle azioni compiute anche in pubblico sono monitorate e contribuiscono a creare il cosiddetto social score, che entro la fine del 2020 si estenderà anche alle aziende.
Negli Stati Uniti invece, complice forse la discussione su una nuova legge federale sulla privacy improntata sul Gdpr europeo, sono arrivate le prime moratorie in diverse città — come San Francisco — che ne vietano l’adozione negli spazi pubblici. In pratica si stabilisce che finché non ne sarà regolato l’uso, il riconoscimento facciale non dovrebbe essere usato. L ‘idea di una moratoria è del resto la stessa proposta da Giovanni Buttarelli, il garante europeo della privacy scomparso prematuramente ad agosto scorso, che nel suo testamento professionale alzava la guardia sull’uso di questa tecnologia, evidenziandone gli effetti deleteri in assenza di regole rigide e chiedendo alle tech company maggior trasparenza e la garanzia di un controllo esterno dove necessario. Intanto Amazon sta lavorando a una legge proprio sull’adozione del riconoscimento facciale, tecnologia che vende alle forze dell’ordine negli Stati Uniti col suo software Rekognition.
L’uso da parte della polizia in Europa
Eppure, tornando all’uso da parte delle forze di polizia, neanche in Europa si registra uniformità. In generale ,molti paesi usano da tempo questa tecnologia per il confronto tra una foto con un database, ma pochi ancora lo usano per il riconoscimento in tempo reale, ovvero identificando le persone che passano davanti a una telecamera e incrociando il volto con quelli presenti in un database di riferimento. La stessa AlgorithmWatch ammette che, mancando un obbligo di trasparenza, il report non può ritenersi comprensivo di tutte le situazioni presenti in Europa: in alcuni stati esistono più forze dell’ordine (in Italia ne abbiamo tre, senza contare i militari) che possono farne un uso diverso; alcune hanno rivelato chi sono i fornitori del software, mentre ad esempio per Finlandia e Croazia si tratta di notizie riservate. Non meglio è andata con la Lituania, che non ha voluto rispondere a riguardo.
In Finlandia il riconoscimento facciale viene usato dal 2016 negli aeroporti per il controllo dei passaporti, ma dal 2020 sarà integrato col database della polizia per un confronto con chi ha precedenti giudiziari; nel 2022 nella digitalissima Estonia sarà disponibile un database centralizzato e disponibile per più enti governativi; in Austria il riconoscimento facciale è già in uso nelle investigazioni; in Germania viene usato dal 2008, mentre due progetti pilota sono stati già avviati per l’uso del riconoscimento facciale in tempo reale; la Svezia, che da novembre ha dato l’ok all’uso da parte della polizia, ne ha vietato l’adozione nelle scuole comminando una multa di circa ventimila euro.
In Francia si sta sperimentando, ma per ora ne è vietato l’uso in spazi pubblici senza l’autorizzazione di un giudice. In quel caso però la polizia potrebbe confrontare in tempo reale i frame delle videocamere di sorveglianza (Cctv) con un database di oltre 8 milioni di cittadini. In Danimarca, lo scorso luglio, lo stadio di Brondby ha utilizzato telecamere di video sorveglianza collegate al database degli ultras sotto daspo durante diverse partite di calcio. Ciò gli ha permesso di escludere coloro che avevano sfidato la sanzione — nel rispetto, secondo quanto afferma Panasonic, del Gdpr.
E in Italia? Beh, da noi queste tecnologie sono già in uso da parte delle forze di polizia: nella fattispecie parliamo del famoso Sari nel cui database ci sarebbero — stando ai report e alle stime — due milioni di cittadini italiani e sette milioni di stranieri. Sari sarebbe in grado di fornire riconoscimento in tempo reale tramite telecamere ma non è esente da dubbi sul suo grado di efficacia.
In al momento un sistema comprensivo di Spagnafacial recognition non dovrebbe (condizionale d’obbligo) essere in uso, mentre in Belgio ne è stato sospeso l’uso in aeroporto dopo la scoperta della mancanza di una appropriata base legale.
Non possiamo cambiarci la faccia
Come evidenziato dall’associazione Edri (European Digital Rights), oltre ai numerosi errori che ancora si riscontrano, il problema del riconoscimento facciale è che il nostro viso è molto più esposto nei luoghi pubblici di quanto possono essere ad esempio le nostre impronte digitali. Riconoscere le impronte può avvenire solamente col nostro consenso o con l’uso della forza, ma passare sotto una telecamera ed essere riconosciuti è oggi molto più facile di quanto si creda. Per questo Edri chiede che prima di usare il riconoscimento facciale nei luoghi pubblici, le autorità redigano una valutazione d’impatto sui diritti umani e assicurino il rispetto dei requisiti di necessità e proporzionalità.
È necessaria questa tecnologia? Che problema sta cercando di risolvere? Che rimedi porrà agli abusi? Per capirci, l’uso che viene fatto in aeroporto — dove si confrontano la foto sul passaporto inserita al momento e il volto della persona lì presente, col suo consenso — supererebbe probabilmente il test. Il confronto costante delle persone che passeggiano in centro col database della polizia, certamente no. Anche se in entrambi i casi lo scopo è quello di garantire la sicurezza, nel secondo caso mancano le salvaguardie fondamentali di uno stato di diritto, che in questo caso somiglierebbe più a uno stato di polizia.
Dobbiamo capire in che tipo di società vogliamo vivere
L’altro problema è che al momento il riconoscimento facciale viene usato dalla polizia o in segreto, o in un modo in cui è impossibile prestare il proprio consenso. È quanto dice a Wired Leandro Ucciferri di ADC, ong membro di Privacy International: “Quando si ha a che fare con la sorveglianza di spazi pubblici con il riconoscimento facciale, ci sono due punti principali da tenere a mente: (a) si fa generalmente in segreto, senza che le persone si rendano conto che i loro dati biometrici vengono presi e analizzati; (b) essendo fatto di nascosto, non si può veramente acconsentire, e anche se viene messo un cartello che indica l’uso del riconoscimento facciale (come nel caso della South Wales Police nel Regno Unito), può succedere che avvicinandosi abbastanza da poter leggere il cartello i propri dati biometrici siano catturati, escludendo in questo caso un consenso reale “.
A parta la regolamentazione, continua Ucciferri, dobbiamo anche capire che tipo di società stiamo costruendo. “Potremmo anche essere a nostro agio con il riconoscimento del volto usato per la sorveglianza con un particolare governo o da un particolare Paese, ma i governi cambiano, le persone nell’amministrazione cambiano, e ciò che una volta era finalizzato ad un obiettivo specifico (la narrazione oggi evidenzia il terrorismo, il traffico di droga, ecc) potrebbe allargarsi col cambio di governo”.
La richiesta internazionale della società civile di una moratoria
Intanto le ong Epic e The Public Voice stanno raccogliendo le firme per chiedere il fermo di ogni uso del riconoscimento facciale per la sorveglianza di massa.
Oltre alla sospensione, i firmatari — tra cui si contano decine di esperti e ong da tutto il mondo — chiedono di distruggere i dati personali ottenuti illecitamente, di verificare i rischi, i problemi per la privacy e i pregiudizi degli algoritmi e l’impatto sulla società che il loro uso può causare. Pretendono infine delle norme condivise, degli standard tecnici e delle linee guida etiche per difendere i diritti fondamentali dei cittadini prima di adottare il riconoscimento facciale.
Originally published at https://www.wired.it on December 20, 2019.
