Testiamo l’IA per i servizi pubblici digitali: quello che abbiamo imparato
Il nostro approccio per mettere alla prova le potenzialità dell’IA nel migliorare i servizi pubblici digitali, tenendo al centro i bisogni e i diritti dei cittadini
di Alessandro Ercolani, senior software developer, e Giuseppe Saccardi, data Scientist
Negli ultimi mesi in PagoPA ci siamo chiesti in che modo l’Intelligenza Artificiale può essere utilizzata dai servizi pubblici in Italia, per migliorarne l’efficienza mantenendo al tempo stesso al centro le persone, con i loro diritti e i loro bisogni.
Per rispondere a questa domanda abbiamo applicato un metodo di lavoro che abbiamo già sperimentato con successo sui nostri progetti: la costruzione di un gruppo di lavoro multidisciplinare, con competenze diversificate che vanno dai temi della privacy a quelli della sicurezza. Così da alcuni mesi ha preso vita quello che chiamiamo un osservatorio aziendale sull’Intelligenza Artificiale, che mette intorno allo stesso tavolo:
- sviluppatori, data scientist e data engineer, che lavorano in prima linea per individuare i processi dove l’IA può avere un impatto promettente, trovare le soluzioni operative più adatte e sicure, mettere mano al codice;
- esperti dell’area legal e privacy, con il mandato di pesare in ogni fase gli aspetti legati all’etica e alla tutela dei diritti dei cittadini, ad esempio nella gestione dei dati o nella trasparenza dei processi, e di individuare le scelte migliori;
- esperti dell’area comunicazione, che assolvono una funzione di coordinamento e di dialogo, per mettere in relazione il lavoro dell’osservatorio con tutte le anime della società.
Questo gruppo ha già iniziato a lavorare per studiare e analizzare le opportunità legate ad alcune soluzioni di Intelligenza Artificiale che possano essere applicate ad alcuni servizi legati all’attività della società. In questo post vi raccontiamo le prime lezioni imparate.
Su cosa stiamo lavorando
Il gruppo di lavoro ha iniziato a lavorare in questi mesi per realizzare dei test su alcune soluzioni di IA, che abbiamo individuato come particolarmente promettenti, in ottica di impatto sull’efficientamento dei processi.
Ad oggi abbiamo individuato tre ambiti diversi in cui lavora la nostra società su cui valutare possibili applicazioni di sistemi di IA:
- La gestione più efficiente dell’assistenza per gli utenti di alcuni servizi che eroghiamo. Culturalmente in PagoPA prestiamo grande attenzione al feedback degli utenti, che ci offre anche informazioni per rendere i prodotti sempre più semplici e intuitivi da utilizzare. Ma aiutare le persone ad utilizzare i nostri prodotti digitali risponde anche al nostro mandato di inclusione, per cui l’efficienza dei nostri processi di assistenza per noi è un aspetto strategico. Un uso dell’IA in questo ambito può avere un impatto nel rendere alcuni processi più efficienti.
- La riduzione della complessità della Pubblica Amministrazione, per semplificare il rapporto con i cittadini. Questo obiettivo fa parte della mission della nostra azienda, su cui abbiamo ideato progetti cardine come IO, l’app dei servizi pubblici. L’IA, infatti, può essere utilizzata per aiutare il cittadino a districarsi nella complessità di informazioni e procedure del mondo dei servizi pubblici, per trovare quello che gli serve o compiere una determinata azione.
- L’efficientamento di alcuni processi interni alla Pubblica Amministrazione. In questa direzione, si vogliono mettere alla prova i vantaggi e i limiti dell’utilizzo di sistemi di IA per compiere delle attività ripetitive, a basso valore e che consumano molto tempo, rallentando anche l’erogazione dei servizi a imprese, enti e cittadini.
Valutare l’applicazione di IA in questi diversi ambiti, ci ha posto di fronte a delle sfide interessanti, da cui abbiamo imparato delle lezioni che stanno costruendo mattoni di un know how sempre più ricco della nostra azienda.
Lesson learned #1: fare le cose in casa, quando si può
Le nostre valutazioni ci hanno portato a preferire quando possibile soluzioni di IA “fatte in casa” e basate su tecnologie open source. Questa scelta ci permette infatti di costruire dei sistemi basati su tecnologie avanzate di IA utilizzando strumenti open source, limitando le dipendenze da sistemi di fornitori terzi e mantenendo il presidio dei dati nel perimetro aziendale.
Abbiamo la possibilità di fare questa scelta perché lavoriamo da anni sulle tecnologie di machine learning, in larga parte frutto del lavoro portato avanti per il progetto della Piattaforma Digitale Nazionale Dati.
Nell’ambito del gruppo di lavoro, questa scelta è stata ritenuta quella che offre le maggiori garanzie in termini di sicurezza, privacy, trasparenza, rispetto all’utilizzo di soluzioni fornite da terze parti che rischiano a volte di essere delle “black box”, non rivelando sufficienti informazioni rispetto al modo in cui si gestiscono le informazioni o vengono operate determinate scelte.
Inoltre il nostro team di sviluppo lavora per predilezione con strumenti open source, che l’azienda considera un valore aggiunto per i nostri prodotti.
Va anche detto che la valutazione dei progetti test su cui stiamo lavorando ci ha messo di fronte alla consapevolezza che non sempre è possibile (né conveniente) fare tutto in casa. In alcuni casi, per limiti tecnologici, o per esigenze di scalabilità dei servizi, può essere inevitabile o preferibile il coinvolgimento di soluzioni software di soggetti terzi: in questo caso la sfida che ci aspetta nei prossimi mesi è di valutare le dipendenze, i limiti e i rischi potenziali riguardo aspetti chiave come la gestione delle informazioni o la trasparenza.
Lesson learned #2 — serve sempre un attento monitoraggio
Lavorare a delle ipotesi applicative dell’Intelligenza Artificiale sui servizi pubblici, in particolare quando si interfacciano con i cittadini, ci ha insegnato l’importanza del monitoraggio assiduo delle scelte che compiono i sistemi di IA, al fine di garantire il rilevamento di inesattezze, imprevisti, errori, e intervenire tempestivamente per correggerne le cause.
Questa attività di monitoraggio implica la strutturazione di processi ad hoc, che coinvolgano anime della società che si occupano dei servizi su cui interviene l’IA, che abbiano il know how adeguato per vigilarne l’operato.
Nel nostro progetto di test su assistenza clienti abbiamo ad esempio realizzato un ambiente interno — in cui sono riportate tutte le attività dell’IA — garantendo un continuo monitoraggio del flusso. Questo è stato possibile per il numero molto ristretto di casistiche su cui abbiamo lavorato, mentre con l’estensione del progetto ad una gamma maggiore di casi dovremo individuare soluzioni che permettano la stessa attenzione sull’accuratezza e sulle scelte compiute dall’IA.
Costruiamo un centro di competenze
In PagoPA le competenze tecniche rispetto a casi d’uso di Natural Language Processing e machine learning nascono da un lavoro di ricerca e sperimentazione che il team di sviluppo ha iniziato ben prima del boom della IA generativa.
Il lavoro che oggi stiamo portando avanti con il nostro team sull’Intelligenza Artificiale ha lo scopo di creare un bagaglio di conoscenze multidisciplinari, che ci permetta domani di avere “gli attrezzi necessari” per trovare le migliori soluzioni e lavorare ai servizi con i giusti requisiti.
La costruzione di questo know how non passa solo dalle competenze tecniche, dall’esperienza e dai test, ma si nutre anche di frequenti attività di monitoraggio. Più nello specifico:
- Svolgiamo regolari assessment specifici sul tema della sicurezza dei dati. A valle di questa attività pensiamo di sviluppare delle linee guida per replicare questo tipo di valutazione sui servizi IA.
- Facciamo continue privacy review, di ogni scelta che facciamo e di ogni soluzione tecnica che realizziamo. Questo continuo monitoraggio si sta già trasformando in esperienza: lato sviluppatori per i prossimi progetti sappiamo già quali sono le strade da seguire, quali le scelte che offrono le migliori soluzioni per rispettare i requisiti di massima tutela delle informazioni personali.
- Abbiamo coinvolto un’azienda esterna per fare un assessment con un approccio esclusivamente etico di tutte le attività che abbiamo svolto, delle singole soluzioni, delle scelte, delle tecnologie.
Da queste attività di controllo e valutazione, stiamo costruendo un approccio su cui baseremo il nostro lavoro per i servizi e le piattaforme che gestiamo direttamente, ma che speriamo di rendere replicabile: un vero e proprio modello condiviso per guidare il lavoro di altri enti.
