Per una trasformazione digitale etica

Un dialogo sulle sfide etiche dell’innovazione

Original illustration by Kato Trofimova for PagoPA S.p.A.

La trasformazione digitale e tutti i processi di innovazione pongono inevitabilmente delle questioni etiche sugli effetti che producono sulla vita delle persone. Viviamo un’epoca di cambiamenti senza precedenti, che riguardano la conformazione della società, i ritmi di vita, le abitudini, gli spazi, la comunicazione, fino ai processi di formazione della nostra stessa identità. Cambiamenti radicali che avvengono con una velocità mai sperimentata prima, nell’arco di pochissimi anni.

Per questo, oggi più che mai, è necessario trovare il tempo di fermarsi a riflettere sulla direzione che stiamo prendendo, porsi delle domande sulle opportunità, i rischi e le prospettive che ci aspettano.

PagoPA si trova nel cuore di questo cambiamento. Sin dalla nascita la Società sente tutta la responsabilità e l’importanza di valutare gli impatti del proprio operato sulla vita delle persone, secondo un mandato di servizio pubblico, un dovere di lavorare per il bene dei cittadini.

Con questo post proponiamo una riflessione su questo impegno, attraverso un dialogo sul tema etico tra due “anime” della nostra Società: quella più tecnologica, nella figura di Mirko Calvaresi, Direttore Tecnologia & Servizi, e quella attinente agli affari legali, rappresentata da Marta Colonna, Direttrice Legale & Compliance.

Etica e neutralità

Mirko Calvaresi

Dobbiamo partire da un concetto di base: la neutralità etica della tecnologia. Un’innovazione tecnologica di per sé non può essere “buona” o “cattiva”: la tecnologia è uno strumento che può essere usato in modi molto diversi, con diverse finalità e conseguenze.

Questo concetto non deresponsabilizza in alcun modo i soggetti coinvolti nei processi di innovazione, al contrario rende centrale l’importanza del concetto di governance, ovvero le scelte e le idee sul modello di società che abilitano tali processi.

Uno dei temi più discussi in riferimento all’etica è quello dell’intelligenza artificiale. In questo caso, la tendenza è spesso quella di “nascondersi” dietro la presunta inappellabilità di una scelta effettuata da un algoritmo: lo dice la macchina, quindi è la scelta più razionale.

In realtà, ogni algoritmo risponde a dei criteri, dei parametri, delle metriche, che vengono definiti attraverso una serie di scelte che, di fatto, sono politiche e prese dall’uomo.

Prendendo in considerazione un altro tema centrale nel dibattito sull’etica, la tutela dei dati personali, il risultato è lo stesso. L’esigenza, in questo caso, è quella di bilanciare:

• l’utilizzo e la raccolta dei dati per realizzare servizi a valore aggiunto, come un’identità digitale europea o una piattaforma nazionale dati, che possano portare effettivi benefici alla collettività;
• il diritto alla privacy, che afferisce alla sfera delle libertà non negoziabili degli individui, come il diritto di informarsi, di farsi un’opinione, di scegliere, di autodeterminarsi.

Quello sulla tutela dei dati personali è un dibattito che ha ripreso vigore negli ultimi anni, per l’impatto che può avere sulla società e sugli individui. Nei casi più gravi, l’utilizzo indiscriminato della tecnologia attraverso sistemi di sorveglianza e tracciamento può intaccare la sfera dei diritti umani. In casi meno estremi, l’adozione di politiche a tutela dei dati personali dei cittadini può fare la differenza sugli impatti di servizi innovativi: migliorare la vita del cittadino, senza creare alcun tipo di diseguaglianza.

Per questo è sempre necessaria una governance, un decisore politico che si prenda la responsabilità di indicare dove si trova il giusto punto di equilibrio per portare maggiore beneficio alla comunità e ai cittadini.

Photo by NASA on Unsplash

Marta Colonna

Alcuni esempi dimostrano come le normative, e quindi l’attività di un decisore politico, possano essere uno strumento efficace per affrontare le sfide etiche legate all’innovazione. Questa efficacia dipende da due aspetti:

• porsi le giuste domande e creare, di conseguenza, delle linee direttive che indirizzino tutti i soggetti attuatori dell’innovazione;
• responsabilizzare le aziende ad adottare spontaneamente delle proprie policy, che vadano nella stessa direzione sui temi etici.

Al tema della neutralità etica della tecnologia dobbiamo affiancare anche il concetto di neutralità tecnologica della legge. Una normativa deve essere capace di indirizzare l’innovazione senza “ingessarla” a una specifica soluzione: la valutazione sugli impatti etici di una misura non può esser fatta solamente a priori perché i fattori da tenere in considerazione evolvono, mutano, un progetto vivo che si instaura in ambito sociale mutevole deve essere oggetto di una valutazione continua.

Il Regolamento generale sulla protezione dei dati (GDPR) dell’Unione Europea è un buon esempio di normativa che offre delle linee guida e al tempo stesso responsabilizza tutti i soggetti coinvolti su diversi aspetti etici, attraverso meccanismi di accountability.

In generale, sul tema etico credo vada creato un quadro normativo che dia delle linee direttive e che generi dei meccanismi di assessment in tutti i soggetti che partecipano all’innovazione. Questo permetterebbe alle aziende tecnologiche di fare una continua valutazione sul campo e adeguare i propri prodotti alle diverse situazioni per rispettare le direttive.

Prendendo ad esempio un progetto innovativo legato alla telemedicina, un ambito per sua natura pieno di implicazioni etiche, sarebbero quindi necessari:

• una valutazione ex ante sugli impatti futuri sociali, psicologici, sul mondo del lavoro, che permetta di porsi le giuste domande a prescindere dai limiti imposti dalla legislazione vigente;
• un processo di valutazione per tutti gli stadi della vita del progetto, che permetta di comprendere gli effettivi impatti e predisporre dei correttivi in corso d’opera.

Valutazione etica in azienda

Mirko Calvaresi

È necessaria una riflessione anche a livello di aziende private sui temi dell’etica. Serve maggiore consapevolezza e dibattito sui trade off, le ricadute che ogni innovazione tecnologica può avere su diversi ambiti della società. Come attori dell’innovazione, dobbiamo sapere che tutto quello che facciamo comporta degli effetti nella vita delle persone e che, quindi, abbiamo sempre una responsabilità che comporta una riflessione.

In un’azienda tecnologica, la consapevolezza dovrebbe raggiungere ogni singolo sviluppatore, che potrebbe trovarsi a compiere persino a sua insaputa delle scelte che hanno delle conseguenze di grande portata. Pensiamo, ad esempio, a uno sviluppatore che definisce un parametro che influisce su un algoritmo nell’ambito di un social media: deve essere preparato a riconoscere la portata di una scelta apparentemente innocua, farsi delle domande, capire i limiti.

Nella definizione dei propri processi tecnologici e operativi, PagoPA si è mossa sin dalla nascita per valorizzare al massimo la considerazione degli aspetti etici, in particolare attraverso:

• la trasparenza di tutti i propri processi, con tutto il codice reperibile su piattaforme open source, che permettono di dare visibilità a chiunque e nel dettaglio di come e attraverso quali scelte realizziamo i nostri progetti;
• un’elevata soglia di attenzione nell’utilizzo dei dati personali, con un processo di valutazione continuo sui temi della privacy, che ci rende persino portavoce delle istanze delle normative comunitarie in questa materia.

L’etica è destinata ad avere un ruolo ancor più importante nel futuro della nostra società, che nasce con una mission aziendale che pone al centro l’interesse pubblico, dandoci lo scopo di lavorare per migliorare la vita dei cittadini.

Photo by charlesdeluvio on Unsplash

Marta Colonna

Oggi la nostra attenzione ai temi etici è garantita dalla gestione dei progetti attraverso team multidisciplinari che seguono ogni prodotto in tutte le fasi di vita, dall’ideazione, al lancio, alle fasi successive. Questi team includono sempre:

• un esponente del dipartimento legal, che garantisce la dovuta considerazione ai temi della tutela dei diritti dell’individuo e della trasparenza;
• esperti di design, che garantiscono un’adeguata usabilità del prodotto, che permette agli utenti la giusta comprensione dei processi.

Per il futuro vorremmo sviluppare questo tema ancora di più, con l’idea di istituire un dipartimento di etica nelle nuove tecnologie all’interno della Società. Un presidio strutturale che, avvalendosi della collaborazione di figure professionali specializzate e del mondo della ricerca, ci permetterebbe di:

• anticipare tematiche etiche e porci le giuste domande su quelli che sono gli impatti sociali dei progetti che realizziamo;
• delineare linee di indirizzo che vadano oltre la semplice compliance legale.

Oggi PagoPA è una società con la massima soglia di attenzione nel rispetto delle regole, soprattutto in ambiti delicati come la tutela dei dati personali. Grazie a un simile gruppo di lavoro potremmo spingerci oltre, diventando una società all’avanguardia sui temi dell’etica, una best practice, un’esperienza del tutto nuova nel settore pubblico.

La digitalizzazione per tutti

Mirko Calvaresi

Parlando di etica nell’innovazione digitale non possiamo dimenticare un altro tema fondamentale, trasversale a tutti i nostri progetti: l’inclusione. L’innovazione può essere una forma di progresso per una società solo se non lascia indietro nessuno, altrimenti rischia di diventare uno strumento per creare o ampliare diseguaglianze.

Oggi la digitalizzazione dei servizi pubblici ha già raggiunto una tale pervasività da scontrarsi con il digital gap di una parte della popolazione che, per una questione di barriere culturali o anagrafiche, può avere difficoltà di accesso a quei servizi.

La sfida è far sì che questa difficoltà non diventi un muro che separa una società di “tecno abilitati” e una società “di serie b”. Ad esempio:

• la prenotazione di una prestazione sanitaria urgente, come una TAC, deve poter essere effettuata anche da una persona anziana che non abbia la competenza necessaria per accedere a un sistema di prenotazione digitale;
• un sistema di didattica a distanza, per essere inclusivo, deve tener conto che in alcune fasce della popolazione possono esserci difficoltà di accesso per la mancanza di dispositivi, di connettività o di competenze in famiglia.

L’esigenza di progettare l’innovazione con questa visione può essere tradotta in modi diversi, ad esempio:

• offrendo sempre alle persone alternative analogiche ai servizi digitali;
• realizzando servizi digitali con una user experience tale da renderne semplice l’utilizzo anche ai meno avvezzi alla tecnologia;
• promuovendo attività di formazione, per ridurre questo gap di competenze.

Marta Colonna

Per sua natura e caratteristiche, PagoPA può avere un ruolo importante per creare uno standard nel panorama italiano ed europeo, un modello di governance dell’innovazione che metta al centro l’etica.

In una società privata ogni scelta deve sempre rispondere a un’esigenza di mercato, avere un riscontro, anche quando si fanno scelte di sostenibilità, di etica, di compliance legale. PagoPA può essere pioniera anche per il particolare status che ha: mira all’efficienza e alla sostenibilità economica, ma non è governata soltanto da un’esigenza di profitto. Come società pubblica abbiamo la possibilità e il dovere di tenere in considerazione le tematiche etiche e far sì che rientrino a pieno titolo nel nostro processo decisionale.

Oltre a impattare nei nostri progetti, questo modello può avere delle ricadute più ampie. Raggiungendo tantissime persone con i nostri prodotti, possiamo avere un ruolo formativo e sensibilizzante affinché i cittadini diventino consapevoli dell’importanza di alcune tematiche.

Già oggi i nostri esperti di design progettano i prodotti con lo scopo di “nascondere” la complessità dei processi, ma anche di fornire tutte le informazioni ai cittadini sulla natura delle attività che stanno svolgendo. Cerchiamo di informare in modo efficace e con un linguaggio accessibile, senza sommergere le persone di informazioni troppo dettagliate e quindi incomprensibili.

Creare consapevolezza nei cittadini su alcune istanze, come quella della privacy o dell’etica, significa innescare un cambiamento virtuoso nei cittadini, che avranno un maggiore livello di attenzione su queste tematiche anche verso altri servizi. E creare una tale consapevolezza è anche parte della nostra mission di società pubblica.

Lavora con noi | LinkedIn – Twitter – Instagram | Visita il nostro sito | GitHub