Come far coesistere tecnologia e diritti nella lotta contro COVID-19

11 punti stilati da Algorithm Watch per una discussione consapevole sull’utilizzo delle tecnologie di “digital contact tracing”

(quest’articolo è una traduzione dell’originale inglese pubblicato da Fabio Chiusi e Nicolas Kayser-Bril per Algorithm Watch)

Mentre la pandemia di COVID-19 si diffonde a macchia d’olio nel mondo, molti si chiedono se e come usare modelli di decisione automatica per frenare l’epidemia.
Le soluzioni proposte e implementate nei vari Stati sono diverse, dal controllo sociale autoritario (Cina) a soluzioni decentralizzate che pongono maggiore attenzione alla privacy (il “Safe Path” del MIT).
Ne consegue un insieme di possibili principi e considerazioni su cui fondare una discussione informata, democratica e utile circa l’utilizzo dei sistemi di decisione automatica.

1. Il COVID-19 non è un problema tecnologico.

Le analisi delle risposte all’epidemia mostrano che gli interventi vincenti si fondano sempre su politiche più ampie di salute pubblica. Singapore, Corea del Sud e Taiwan, frequentemente citati come modelli nel contenimento dell’epidemia, avevano tutti già dei programmi in atto, la maggior parte dei quali progettati dopo l’epidemia di SARS del 2003. Essere preparati ad un’epidemia va oltre le soluzioni tecniche: significa avere risorse, competenze, piani, e la legittimità politica e la volontà di implementarle velocemente quando necessario.

2. Non esiste un’unica soluzione per l’epidemia di COVID-19.

Vincere la guerra contro il virus richiede l’esecuzione di test, il tracciamento del contatto sociale (contact tracing) e l’isolamento. Tuttavia, ogni contesto è a sé stante. Il caso di una nazione in cui il virus si è diffuso senza essere stato rilevato per mesi (come, per esempio, è successo in Italia) è diverso da quello in cui si è riusciti a identificare il virus fin dall’inizio (come in Corea del Sud). Differenze sociali, politiche e culturali giocano un ruolo chiave quando si tratta di rafforzare le politiche sanitarie. Questo significa che la stessa soluzione tecnologica potrebbe portare a risultati diversi in contesti diversi.

Di conseguenza,

3. Non c’è bisogno di ricorrere in modo affrettato alla sorveglianza digitale di massa per combattere il COVID-19.

Non è solo una questione di privacy — anche se la privacy resta un diritto fondamentale e deve essere rispettata. Prima di considerare le implicazioni sulla protezione dei dati nelle app per il contact tracing digitale, per esempio, dovremmo chiederci: prima di tutto, funzionano? I risultati della letteratura scientifica e delle epidemie passate sono contrastanti e dipendono fortemente dal contesto. I diritti devono essere bilanciati con i benefici attesi (salvare delle vite umane), ma non serve sacrificare le nostre libertà fondamentali se non c’è un motivo per farlo.

4. Dobbiamo pensare a come tornare gradualmente alla “normalità”.

L’isolamento non può durare all’infinito.
Gran parte degli scenari prevedono un qualche tipo di sorveglianza digitale, che sembra diventare necessaria una volta che specifici aspetti di COVID-19 sono presi in considerazione: l’esistenza di pazienti asintomatici che possono comunque essere contagiosi, i 14 giorni di incubazione, il fatto che non esistono ancora cure o vaccini. Le organizzazioni della società civile devono essere pronte a contribuire alla discussione sulle soluzioni di monitoraggio, per essere di supporto nella scelta di approcci adeguati.

5. La protezione dal COVID-19 e la protezione della privacy non sono mutualmente esclusive.

Soluzioni come quella sviluppata al MIT (‘Safe Paths’) e la Pan-European Privacy Preserving Proximity Tracing initiative affiancano il digital contact tracing ad un approccio aperto, decentralizzato e che pone maggiore attenzione alla tutela dei diritti. Questo è anche il modo in cui Stati come Singapore stanno affrontando la questione (per esempio attraverso l’app ‘TraceTogether’), che è diverso dall’approccio della Corea del Sud e di Israele.

6. Qualsiasi soluzione deve essere implementata in modo da essere compatibile con la democrazia.

La democrazia non è un ostacolo all’arresto della pandemia: è l’unica speranza che abbiamo per contrastarla razionalmente, rispettando i diritti di tutti. La trasparenza dovrebbe essere fondamentale per 1) le soluzioni tecnologiche a cui si sta lavorando, 2) le istituzioni specifiche o i team di esperti creati per affrontare il problema, 3) la dimostrazione del perché tali soluzioni dovrebbero essere implementate, 4) chi alla fine le svilupperà e rilascerà, specialmente in caso di coinvolgimento di enti privati. Solo la trasparenza assicurerà che la società civile e i parlamentari facciano sì che i decision-maker si assumano le proprie responsabilità.

7. Bisogna evitare nuove discriminazioni basate sui dati.

La datificazione che scaturisce dallo sviluppo dei modelli di decisione automatica per combattere il virus creerà nuove categorie sociali a rischio di discriminazione. I governi devono prevenire la stigmatizzazione degli individui finiti nelle categorie sbagliate e devono tutelare i diritti di coloro che non si posizionano abbastanza in alto rispetto ai criteri di valutazione utilizzati, soprattutto rispetto al triage in ambito sanitario.

8. Le soluzioni di sorveglianza digitale devono essere fermamente fondate su principi di protezione dei dati,

anche quando queste si rivelano realmente efficaci.
Come recentemente messo in chiaro in un comunicato del Comitato europeo per la Protezione dei Dati (EDPB), necessità, proporzionalità, limitazione della finalità e principio di legalità devono essere rispettati, anche in caso di emergenza della sanità pubblica. I cittadini devono essere in grado di appellarsi ad ogni decisione compiuta da sistemi automatici nel contesto del COVID-19 (specialmente applicazioni che determinano se qualcuno ha avuto contatti con una persona infetta e deve quindi rispettare la quarantena). I governi e gli imprenditori devono rispettare le disposizioni del GDPR.

9. Modelli già esistenti di decisione automatica non dovrebbero essere riadattati a esigenze legate al COVID-19.

Essendo questi sistemi automatici basati su dati del passato, non saprebbero gestire — per ragioni di progettazione — un improvviso cambiamento delle condizioni in cui vengono impiegati. I modelli previsionali (predictive policing), l’assistenza automatica ai giudici, il credit scoring e i punteggi di altri modelli di decisione automatica possono produrre risultati che sono ben al di sotto della media (per esempio, riguardo ai livelli di errore). Tali sistemi dovrebbero essere urgentemente controllati o sospesi.

10. Una pandemia è globale per definizione. E richiede risposte globali, diversificate e coordinate.

Una rete globale di organizzazioni della società civile, lavorando insieme, dovrebbe monitorare le risposte alla pandemia. Emergenze precedenti ci hanno insegnato che le situazioni emergenziali offrono a leader politici senza scrupoli la scusa perfetta per legittimare infrastrutture di sorveglianza di massa che, senza alcun bisogno — e a tempo indeterminato — infrangono i diritti di tutti. La resistenza a questo tipo di situazione è stata (parzialmente) efficace solo quando globale, coordinata, ribadita con chiarezza comunicativa ed evidenza fattuale

Infine,

11. dobbiamo assicurarci che il dibattito sulla sorveglianza dovuta al COVID-19 non cada nel vuoto.

Alcuni modelli di decisione automatica, tra cui quelli più noti di riconoscimento facciale, si sono già dimostrati problematici. L’attuale stato emergenziale non può essere usato per giustificarne l’impiego: al contrario, tutti i problemi evidenziati in tempi “ordinari” — mancanza di accuratezza, bias ricorrenti, più ampie preoccupazioni riguardo i possibili abusi di dati biometrici etc. — diventano ancora più importanti in tempi eccezionali, quando la salute e la sicurezza di tutti sono a rischio. Non dovremmo essere sicuri soltanto che questo dibattito cruciale non sia condotto da tecnici o tecnologie, ma anche assicurarci che le tecnologie coinvolte si siano dimostrate positive per la società. La sospensione delle comunicazioni dal vivo fornisce l’opportunità di trasferire online il welfare e altri servizi essenziali, dove modelli di decisione automatica spesso sostituiscono i lavoratori umani. Questo potrebbe avere conseguenze catastrofiche per i cittadini che non hanno accesso o mezzi per comprendere in modo critico gli strumenti digitali. Dobbiamo impegnarci affinché questo non accada.

(Hanno lavorato a questa traduzione: Elisabetta Betti, Stefano Capezzuto, Marta Marchiori, Ludovica Pannitto)