La storia della nostra amica AI
di Enrico Viceconte
Avevo sette anni quando noi bambini trovammo sotto l’albero di Natale il libro “La storia del nostro amico atomo” prodotto e firmato nel 1956 da Walt Disney e Heinz Haber e edito in Italia da Mondadori. Credo che sia stato il libro più influente nel determinare l’interesse alla scienza e alla tecnica che mi ha accompagnato nei successivi sessantadue anni di vita. Il libro univa un’ottima divulgazione a un ottimistico foresighting che proiettava l’uso pacifico dell’energia nucleare oltre la fine del secolo. Non senza il lodevole tentativo di dimostrare ai bambini che le sorti progressive dell’umanità sarebbero dipese dall’esercizio della buona volontà e della razionalità della scienza. Il tutto con le bellissime illustrazioni create da un team di una ventina di artisti della Walt Disney (quelli degli sfondi dei grandi film di animazione) coordinati da un direttore artistico chiamato Paul Hartley. Posso affermare che quel volume è stato per me influente anche nello sviluppo di un certo gusto per l’illustrazione e di una sincera stima verso chi fa buona divulgazione scientifica.
In un post del periodo iniziale della pandemia COVID19 davo a quel volume il merito di avermi fatto capire sin dalla più tenera età il principio della reazione a catena applicabile a un’epidemia ma anche a fenomeni sistemici di altra natura, come la diffusione di un meme o l’adozione di una nuova tecnologia.
https://www.linkedin.com/pulse/ci-ricordiamo-oggi-della-scienza-e-tecnica-enrico-viceconte
https://www.linkedin.com/pulse/scope-magiche-coronavirus-e-memi-infettivi-dello-enrico-viceconte
Dirò in un altro post qualcosa di più sull’illustratore Paul Hartley e sull’autore del libro, Heinz Haber, che aveva affiancato la firma di Walt Disney in persona, come accadeva per tutti i prodotti Disney.
Parlo di quel libro per bambini perché mi è capitato di citarlo in una discussione sul tema delle proposte di moratoria sullo sviluppo dell’intelligenza artificiale. Se chiedessi a un’intelligenza artificiale generativa di scrivere “La storia della nostra amica intelligenza artificiale”, un libro per i bambini sul futuro delle tecnologie computazionali, probabilmente uscirebbe fuori un apprezzabile testo di struttura molto simile a quello sul futuro dell’energia atomica scritto nel 1956 da Disney e Haber, con buon senso e buone argomentazioni scientifiche. Per le esperienze che ho fatto giocando con ChatGPT, posso dire che all’algoritmo non manca un certo equilibrio e prudenza, distillati dall’elaborazione statistica di tutte le opinioni favorevoli o contrarie, apocalittiche o integrate, utopiche o distopiche sulle questioni dibattutissime. Molto meglio di opinioni nate dalla volontà individuale e umanissima da parte di maestri di pensiero di dire sul tema una cosa intelligente e originale.
Il libro della Disney iniziava con una fiaba liberamente tratta dalle Mille e una notte. In sintesi, un vecchio pescatore pesca un vaso. Mosso dalla curiosità e dalla speranza di trovarci dentro qualcosa di prezioso, egli lo apre. Ne fuoriesce un genio gigantesco che, invece di essere grato al vecchio per essere stato liberato da secoli di prigionia in fondo al mare, gli annuncia che lo ucciderà. Il pescatore, con uno stratagemma, riesce a far rientrare il genio nel vaso e ne chiude il coperchio. Alle suppliche del genio, accompagnate dalla promessa di renderlo ricco e felice, il pescatore riapre il vaso e il genio lo ricompensa esaudendo i classici tre desideri.
La parabola viene ovviamente usata disneyanamente per rappresentare a noi bambini degli anni della guerra fredda il problema dell’angosciante potenziale distruttivo legato alla scoperta della fissione dell’atomo (la bomba), e la necessità di richiudere il genio nel vaso (una specie di moratoria) per poi riaprirlo e sfruttarne con saggezza il potenziale benefico. Se la fiaba mi è rimasta così impressa per oltre sessant’anni dipende forse più dal contenuto sapienziale di quella storia proveniente dall’antica Persia che dal team creativo di Disney che l’ha adattato con graziose illustrazioni. La cultura indoeuropea, cha accomuna indo-persiani e Greci, ha avuto bisogno più di una volta di raccontare la storia di un vaso da cui possono scaturire sciagure che poi è difficile far tornar dentro dopo che sono uscite. Ricordate di certo la storia del vaso di Pandora in cui il fratello meno intelligente del titano Prometeo, Epimeteo (e i due nomi sono importanti per il loro significato in greco), fa l’errore di aprire un vaso.
Una storia, quella del pescatore, così avvincente che Shahrazād riesce a intrattenere il sultano uxoricida seriale per molte notti partendo da quel nucleo narrativo del pescatore e del genio e poi divagando in altre storie, come sto facendo io ora. Una storiella, quella del pescatore, da cui, nella forma nidificata di racconti nei racconti nei racconti, l’astuta narratrice sapeva far fiorire continuamente altre storie in grado di rappresentare, meglio di un trattato sulla teoria dei giochi in microeconomia, la contrapposizione tra le strategie e i dilemmi di attori i cui interessi sono contrapposti. La tecnica narrativa di Shahrazād, ottima per portare per le lunghe l’intrattenimento del sultano al fine di salvarsi la pelle, usava l’”incassamento” (debrayage) che consiste nel raccontare di uno che racconta di uno che racconta. Una forma di racconto non lineare (lineare è, invece, l’eterno tema del “viaggio dell’eroe” che si impara come un ABC alle scuole di scrittura creativa). Narrazione non lineare che sprofonda nell’abisso (“mise en abyme”) dei diversi piani temporali e che piacerebbe a quella scaltra Shahrazād che è Netflix qualora volesse proseguire nelle sperimentazioni di fiction open-ended volte a intrattenere il suo cliente-sultano imprigionandolo in un labirinto di delizie.
“Le mille e una notte” usa una collaudata formula rapsodica che proviene dall’oralità e che consente di tenere insieme un corpus di tanti microracconti (dove la brevità della singola storia è utile a tener desta l’attenzione del sultano e tenerlo avvinghiato per mille e una notte). Il fatto che Boccaccio e Chaucher abbiano implementato la stessa strategia dimostra che essa funziona e che può essere utilmente integrata a schemi lineari, come accade per il viaggio dell’eroe per eccellenza, quello di Ulisse, in cui l’eroe raccontato, nel suo erratico viaggiare tra le isole, a sua volta racconta, portandoci a spasso nel temo e nello spazio. Accrescendo in chi ascolta la nostalgia per l’irraggiungibile Itaca. Per farvi un’idea della non linearità del racconto di Shahrazād e farvi un’idea dei modelli narrativi che potrebbe proporci un’intelligenza narrativa artificiale motivata ad in-trattenerci, avvinghiandoci in universi finzionali, ecco la storia del pescatore e del genio.
https://it.wikisource.org/wiki/Le_Mille_ed_una_Notti/Storia_del_pescatore.
La versione sufica della parabola, narrata dai dervisci, è ancora più interessante — se la volessimo porre in relazione alle decisioni strategiche sullo sviluppo della tecnologia — se la compariamo a quella giunta a noi attraverso la tradizione orale poi confluita nell’opera come oggi la conosciamo.
https://sufi.it/sufismo-posts/parabole-sufi/il-pescatore-e-il-genio/
Non so quanto sia attendibile il sito che riporta la parabola del sufismo, ma possiamo credere che ci sia del vero. Nel racconto dei sufi diventa centrale l’insegnamento “L’uomo può usare solo ciò che ha imparato a usare”. Un insegnamento che il vecchio pescatore ricevette dalla sua spiacevole esperienza e lo scampato pericolo nella vicenda dell’apertura del vaso. Saggezza raggiunta per cui il pescatore (a differenza che nella storia di Shahrazād) non si fida più e ributta il vaso in mare con dentro il genio incavolatissimo. Ma poi, sembra che dica la storia dei sufi, quella sapienza acquisita dall’esperienza si indebolisce nelle generazioni successive. E quando al nipote del pescatore capita di ripescare il vaso il problema si ripresenta col genio che da dentro al vaso scalpita promettendo ricchezze per essere liberato. La tentazione è forte e il nipote del pescatore chiede consiglio a un saggio. Questi lo invita a chiedere al genio conoscenza invece di ricchezza. E di farsi dare da quella entità, a vaso chiuso, una dimostrazione del potere di conferire conoscenza. Diremo oggi di farsi dare una “demo” gratuita. Il genio lo esaudisce e, acquisita tale conoscenza, cioè vendendo le conseguenze, il pescatore… dà un calcio al vaso chiuso e lo ributta in mare.
In un racconto di fantascienza, che ancora non ho letto, il pescatore chiede a ChatGPT cosa accadrebbe se l’AI generativa fosse fatta uscire dal vaso e ChatGPT risponde che è meglio lasciarla chiusa nel vaso, sposando la tesi dei fautori della moratoria, che pensano come i dervisci.
La variante narrativa più forte sarebbe una storia che contraddice la distopia in voga della macchina che, per prendere il controllo, disattiva gli umani. Nella storia che propongo, che mi risulta ancora non scritta, la macchina consiglia agli umani che la disattivino e, accorgendosi che gli umani non le danno ascolto, si disattiva da sola. Chiamerei il racconto “il suicidio” come sviluppo del quarto dei seguenti scenari:
1. La macchina disattiva l’uomo
2. L’uomo disattiva la macchina
3. L’uomo disattiva l’uomo
4. La macchina disattiva la macchina
Ovviamente, nel libro che lessi da bambino, l’ottimismo disneyano e la voglia di dissipare l’ansia della bomba non faceva riferimento a scenari così apocalittici ma alla fiducia di un controllo basato sulla conoscenza e la saggezza incarnata dalla nostra cultura occidentale. L’”amico atomo” avrebbe aiutato gli uomini ad esaudire tre desideri: l’energia, la salute e la pace. Ma di quegli anni era anche il film di Kubrik il dottor Stranamore, molto meno fiducioso nella razionalità umana, compresa quella occidentale.
Vorrei che, almeno per i bambini, si potesse scrivere oggi un libro di divulgazione di cui un settenne di oggi si ricorderà a sessantanove anni. Nel libro si proverebbe a dare risposa alla domanda: Quali desideri dell’umanità potrà esaudire “la nostra amica AI”? Lo commissionerò a ChatGPT. Come commissionerò a ChatGPT, per intrattenermi, le fiabe che parlano dei 4 scenari. O meglio, degli scenari ottimistici in cui l’intelligenza artificiale può diventare un’amica, come nella storia del pesacatore e del genio. Sperando di non dover ricorrere a Netflix o a Disney per finanziarne la realizzazione. Non sono un loro cliente sultano da intrattenere.
P.S. Notizia ANSA di oggi (3 maggio 2023):
“I russi hanno collocato attrezzature militari, armi ed esplosivi nei locali del reparto turbine della quarta unità di potenza della centrale nucleare di Zaporizhzhia”.
Metto in coda questa notizia mentre ripongo nello scaffale il libro di Walt Disney “La storia del nostro amico atomo” che mi ha ispirato lungo tutto il corso della vita l’amore per la razionalità della scienza e la buona volontà.
