Photo by Alex Iby on Unsplash

Di deepfake, fake news e tecnologie di ‘fake detection’: lo Yin e lo
Yang dell’Intelligenza Artificiale

Salito agli onori del dibattito quotidiano nostrano dopo il video che vede protagonista il senatore Matteo Renzi, il famigerato fenomeno dei deepfake sta rapidamente mostrando tutte le sue potenzialità, soprattutto in termini di rischi per la manipolazione dell’informazione. Il video in questione, diventato presto virale sui social, mostrava un Renzi (particolarmente scanzonato) abbandonarsi a pernacchie e battute, in particolare su ex colleghi di partito e sul primo ministro Giuseppe Conte: un siparietto “curioso”, durante quello che si sarebbe dovuto far credere un fuori onda di un’intervista televisiva.

Un finissimo imitatore forse? Eppure a primo impatto, sembrerebbe proprio essere un fuorionda del politico toscano. In realtà, basta osservare con attenzione il video per accorgersi che qualcosa non torna: l’espressività del volto ha ben poco di naturale, pure se sembra essere in sincro con le parole, e — a un occhio più attento — non passa inosservata la bassa definizione di alcune porzioni dell’immagine. Insomma, vien fuori che il personaggio in questione non c’entri proprio nulla.

Oltremanica, invece, è accaduto che qualche mese fa il CEO di un’azienda britannica, operante nel campo dell’energia, abbia ricevuto una chiamata improvvisa quanto sospetta. Dall’altra parte ci sarebbe stato il suo superiore, un uomo tedesco, che gli avrebbe richiesto di effettuare un bonifico di 220 mila euro a favore di un fornitore ungherese. In fretta e senza troppe domande: che comunque l’amministratore delegato britannico non pare aver fatto, dal momento che la voce e quell’accento tedesco non potevano appartenere ad altri se non al suo capo; certo, la richiesta sembrava piuttosto inusuale, ma come dubitare della sua veridicità? Succede poi che l’uomo riceva una seconda chiamata, dallo stesso numero, dalla stessa voce e con la stessa richiesta di qualche ora prima. E questo ha finalmente fatto scattare in lui più di qualche dubbio.

Photo by Clint Patterson on Unsplash

Nessun capo tedesco dall’altra parte “del filo”, così come nessun bonifico urgente verso sedicenti fornitori ungheresi: una truffa in piena regola, e per certi versi anche sofisticata, resa possibile dall’Intelligenza Artificiale che è servita per la riproduzione della voce del CEO tedesco.

Stiamo parlando ancora una volta di un caso di deepfake, che vale tanto per l’esempio della telefonata truffaldina quanto per quello del video citato in apertura. A dire il vero, prima che fenomeno, il deepfake è un tipo di tecnica che sfrutta il Deep Learning alla base della tecnologia AI: l’apprendimento profondo è utilizzato per manipolare immagini e audio, per sovrapporre o meglio sostituire al reale una realtà artificiale, in tutto e per tutto identica all’originale.

I video deepfake cominciano a diffondersi nel 2017 su chat ristrette — Reddit è stata la prima a vederli nascere — e da lì nel vortice del web e dei social network; e se fino a qualche tempo fa si trattava ancora di “acrobazie” da smanettoni digitali, oggi grazie a Zao può creare dei deepfake anche un ragazzino di 15 anni. Zao è il nome di un’applicazione di sviluppatori cinesi che consentirebbe al vostro amico, fan sfegatato di Tom Cruise, di vedersi finalmente al suo posto in Top Gun: con le stesse capacità attoriali e lo stesso fascino, in appena 8 secondi. Otto secondi per diventare Tom Cruise, che lui stesso, per diventare quel che è, ha impiegato oltre cinquant’anni di carriera e qualche ritocco estetico (ergo, anche qui c’è stato del “fake”, ma lasciamo correre).

Foto di SarahRichterArt

A pensarci bene, però, è tutto piuttosto impressionante: soprattutto alla luce del fatto che i canali d’informazione ormai sono ridotti al digitale, e i video sono tra i maggiori strumenti con cui l’informazione viene veicolata. Ma mentre alle foto “ritoccate” ci avevamo fatto l’occhio, con decenni e decenni di “esperienza” e di bufale poi smentite (dalle campagne propagandistiche dei regimi dittatoriali a quelle complottistiche dei nostri tempi) — dicevamo, mentre a tutto questo oramai siamo preparati e in parte anche vaccinati, ai deepfake pare proprio di no, anche perché abbiamo sempre creduto che truccare un video fatto da immagini e audio fino a renderlo perfettamente reale fosse impossibile. Invece, complice la tecnologia e la capacità di calcolo dei nuovi super computer, questo è diventato non solo possibile ma a volte quasi banale, come dimostrato da FaceApp.

Un primo campanello d’allarme, infatti, dovevamo vederlo in FaceApp, l’applicazione russa che ha spopolato questa estate sugli smartphone di migliaia di italiani. A FaceApp, difatti, basta una foto del nostro volto per estrapolare tutte le informazioni necessarie e “trasformarci realisticamente” in ultraottantenni. Ma invecchiamenti precoci a parte: è possibile che una semplice app sia in grado di stravolgere — realisticamente — delle immagini? Se proviamo a estendere lo sguardo critico, ciò che preoccupa del dispiegarsi di tutto questo fenomeno è il potenziale risvolto dell’avere un’informazione sempre più manipolata.

Pensiamo allora alla trasformazione dei deepfake in fake news, bufale belle e buone che possono creare (forse ancor di più degli articoli di giornale) un’immagine distorta della realtà e condizionare l’opinione pubblica a seconda dei dibattiti.

Photo by Paweł Czerwiński on Unsplash

A questo punto però, succede che a disinnescare il potenziale dannoso dell’AI, intervenga l’AI stessa. Google AI, la divisione del colosso di Mountain View per l’Intelligenza Artificiale, ha annunciato la creazione di un database contenente migliaia di deepfake autoprodotti — con protagonisti attori e attrici — che serviranno da memoria per aiutare a individuare altri deepfake (nati con un intento meno nobile di questo): tra l’altro, alla costruzione di questo database chiamato FaceForensics hanno collaborato anche ricercatori italiani dell’Università Federico II di Napoli.

Simil cosa, ma per scovare le fake news, sta facendo Grover, un progetto americano condotto dall’Università di Washington: il sistema AI inventa delle vere e proprie notizie false per alimentare un personale database, che poi sarà in grado di aiutare lo stesso sistema a individuare contenuti con le stesse caratteristiche. Grover però dichiara di lavorare esclusivamente sulle fake news generate da altri sistemi AI (chiamate appunto Neural Fake News) e non su quelle frutto dell’intelletto umano.

Sfida, quest’ultima, affrontata dal progetto europeo Fandango (FAke News discovery and propagation from big Data ANalysis and artificial intelliGence Operations) che Live Tech e altri partner stanno portando avanti. La “ricetta” contro le fake news dell’uomo si basa su analisi semantiche e multimediali, oltre ad algoritmi in grado di individuare le relazioni intratestuali, importanti per valutare la veridicità di una notizia. In particolare, il valore aggiunto di Live Tech nel progetto Fandango è dato dalla possibilità di agire sull’analisi sintattica e lessicale: ciò significa che partendo da una base di fake news acclarate, il framework DS4Biz RAID ha addestrato una serie di algoritmi in grado di riconoscere i costrutti più ricorrenti e assumerli come segni di identificazione di notizie false.

Foto di Negative Space

Nella giungla di informazioni che è oggi il web, saper riconoscere e fermare quelle distorte in modo rapido e accurato diventa sempre più necessario. Come si è visto, l’Intelligenza Artificiale, in questo, può svolgere un doppio ruolo, di artefice della finzione e di “fake detection”; così come nella filosofia orientale le due polarità contrapposte di Yin e Yang si trasformano l’uno nell’altro, si “creano a vicenda”.

Però c’è una buona notizia: nel secondo ruolo, quello della tecnologia che smaschera frodi e bufale, la tecnologia AI sta facendo passi da gigante e, spesso, porta anche la firma italiana.

Live Tech - Amplifica i tuoi dati

Written by

LVT si occupa delle soluzioni Machine Learning e Artificial Intelligence, riduce la complessità dei processi con una piattaforma innovativa, DS4Biz RAID.

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade