«le scienze non cercano di spiegare, a malapena tentano di interpretare, ma fanno soprattutto dei modelli. Per modello s’intende un costrutto matematico che, con l’aggiunta di certe interpretazioni verbali, descrive dei fenomeni osservati. La giustificazione di un siffatto costrutto matematico è soltanto e precisamente che ci si aspetta che funzioni — cioè descriva correttamente i fenomeni in un’area ragionevolmente ampia. Inoltre esso deve soddisfare certi criteri estetici — cioè, in relazione con la quantità di descrizione che fornisce, deve essere piuttosto semplice»

(da Giorgio Israel nel suo Modelli Matematici. Introduzione alla matematica applicata).

Le parole del matematico e fisico ungherese, nazionalizzato poi cittadino americano, a cui dobbiamo alcune delle teorie fondamentali per lo sviluppo dei computer e delle tecnologie informatiche, ci ricordano che la scienza, anche se con una consapevolezza nuova dal Novecento, ha come scopo il descrivere la realtà rappresentandola non in maniera “perfetta”, cioè come essa è ma in maniera “fedele”, cioè in un modo significativo per il processo di analisi e di prognosi — cioè capacità di predizione — che si vuole ottenere.
Questo modo di procedere crea quello che si chiama “modello matematico”: una rappresentazione “fedele” della realtà costruita usando il linguaggio e gli strumenti della matematica.

Tutti i settori della scienza, ma anche della’ingegneria e le scienze informatiche, fanno largo uso di modelli matematici per modellizzare determinati aspetti del mondo utilizzando gli strumenti matematici (calcolo combinatorio, infinitesimale, statistica, ecc.). Poiché, come già dicevamo, il modello matematico consente di operare delle prognosi future su un sistema è ciò che distingue la scienza quantitativa dalla scienza qualitativa d è ciò che consente ai nostri dispositivi tecnici di funzionare.

Poiché quindi un modello matematico non è altro che una rappresentazione esemplificativa di un sistema reale, nel suo sviluppo vengono schematizzate le sole caratteristiche fisiche che interessa studiare tramite una serie di regole che legano diversi parametri interni, le sollecitazioni esterne e le uscite — le risposte del sistema.

Tra tutti i modelli è particolarmente interessante quello della black box: la realtà che si osserva è un sistema che, similmente ad una scatola nera, è descrivibile essenzialmente nel suo comportamento esterno ovvero solo per come reagisce in uscita (output) a una determinata sollecitazione in ingresso (input), ma il cui funzionamento interno è non visibile o ignoto. Tale definizione nasce dalla considerazione che nell'analisi del sistema ciò che è veramente importante a livello macroscopico ovvero a fini pratici è il comportamento esterno, specie in un contesto di interconnessione di più sistemi, piuttosto che il funzionamento interno il cui risultato è appunto proprio il comportamento esterno.

Quando si parla di black box, non c’è scatola nera più nera del cervello umano. Il nostro sistema nervoso centrale è così complesso, che i neuroscienziati faticano a descriverlo con modelli diversi da quello della scatola nera. Ma se noi non riusciamo a capire il nostro cervello, forse le macchine possono farlo per noi. Questa idea ha solleticato i ricercatori e nell'ultimo numero di Nature Communications, alcuni di essi guidati dallo psicologo dell’Università della Pennsylvania, Michael Kahana, mostrano alcuni interessanti risultati. La loro idea è stata quella di utilizzare degli algoritmi di apprendimento automatico, sistemi notoriamente imperscrutabili descritti anch'essi come black box, all'interno di stimolatori connessi al cervello per decodificare e migliorare la memoria umana.

Come hanno fatto? Gli algoritmi di machine learning attivano un sistema di impulsi elettrici con un timing preciso in luoghi precisi del cervello. Da un punto di vista tecnologico, i ricercatori della PennU — come amichevolmente viene indicata l’università della Pennsylvania, stanno usando una blck box per controllare il potenziale di un’altra. Se questa cosa sembra una soluzione piuttosto elegante per un problema assurdamente difficile, contemporaneamente sembra essere l’ultimo episodio — particolarmente tecno-distopico e apocalittico — di Black mirror intitolato “Black museum”.

I neuroscienziati indagano il cervello grazie a delle misurazioni degli impulsi elettrici che si generano al suo interno e al consumo di ossigeno che avviene al suo interno: i due fenomeni sono connessi, infatti è grazie all'ossigeno consumato che i neuroni riescono a produrre l’attività elettrica. Quando si tratta di misurare l’attività del cervello, le migliori registrazioni, per precisione e attendibilità, sono quelle che si effettuano in vivo all'interno del cranio. Certo è palese che tanto i cittadini quanto le commissioni di bioetica non sono propense a far aprire le calotte craniche delle persone in nome della scienza o il suo progresso. Così Kahana ei suoi colleghi hanno fatto il loro studio collaborando con 25 pazienti con epilessia, ognuno dei quali aveva già subito un impianto nel cervello di alcuni elettrodi — tra 100 e 200 per ogni paziente — per monitorare l’attività elettrica celebrale e il suo propagarsi durante le crisi. Il team di ricercatori della PennU ha sfruttato quegli impianti usando gli elettrodi per registrare l’attività cerebrale che si sviluppa durante le attività connesse alla memoria. La presenza di un alto numero di sensori ha permesso una registrazione in vivo ad alta risoluzione.

Quello che ne è emerso, in primo luogo, è come opera elettricamente un cervello quando memorizza le cose: mentre i pazienti leggevano e tentavano di interiorizzare elenchi di parole, Kahana e il suo team raccoglievano migliaia di misurazioni di tensione al secondo da ciascuno degli elettrodi impiantati. In un secondo momento, hanno testato e registrato quello che accadeva quando i soggetti del test provavano a richiamare quegli elementi dalla memoria, avendo così a disposizione dati ad alta risoluzione per costruire modelli di attività cerebrale associati al ricordare una parola e a dimenticarla. Il team ha ripetuto l’esperimento due o tre volte con ogni soggetto del test. I dati raccolti sono stati sufficienti per produrre algoritmi specifici e per effettuarne un addestramento. Il risultato è che gli algoritmi sono stati in grado di prevedere quali parole ogni paziente probabilmente avrebbe ricordato, in base alla sola attività che si registrava dagli elettrodi.

Ma qui si è inserita un’ulteriore novità: la presenza di questi elettrodi permette non solo di leggere l’attività neurale, può anche stimolarla. Così i ricercatori hanno provato a utilizare la stimolazione elettrica per “migliorare” il funzionamento del cervello o, per usare le parole di Kahana, a “salvare” la formazione dei ricordi in tempo reale. Nel setup del team della PennU ogni pochi secondi il paziente vedeva una nuova parola e l’algoritmo, appositamente addestrato in precedenza, decideva se il cervello era pronto a ricordarla. Kahna ha riferito ai media, presentando i risultati, che “un sistema a circuito chiuso ci consente di registrare lo stato del cervello del soggetto, analizzarlo e decidere se attivare una stimolazione, il tutto in poche centinaia di millisecondi”. Il punto è che questo sistema ha funzionato. La black box algoritmica dei ricercatori ha migliorato la capacità dei pazienti di richiamare all amemoria le parole in media del 15%.

Guardando ai precedenti dobbiamo notare che questa non è la prima volta che il laboratorio di Kahana ha esplorato l’impatto della stimolazione cerebrale sulla memoria. L’anno scorso, il gruppo ha dimostrato che gli impulsi degli elettrodi sembravano migliorare o peggiorare il ricordo a seconda di quando venivano emessi. In questo studio, i soggetti del test hanno ottenuto punteggi più alti quando i ricercatori hanno stimolato le regioni del cervello specificatamente connesse alla memoria durante i periodi di scarsa funzionalità. Invece la stimolazione elettrica durante periodi di alto funzionamento ha avuto l’effetto opposto, come se il segnale fosse di contrasto al naturale funzionamento neuronale.

Questa è senza dubbio una scoperta importante anche se a oggi terapeuticamente inutile: i ricercatori hanno solo identificare il nesso tra memoria e stati cerebrali dopo l’esecuzione dei test di memoria. Il vero risultato che permetterebbe di parlare di enhancement cerebrale, dovrebbe passare dalla stimolazione con impulsi durante il processo della memorizzazione.

Quello che emerge dalla ricerca della PennU è che con l’aiuto di algoritmi di machine learning si può pensare, e lo si sta realizzando, un decoder: uno strumento in grado di leggere l’attività elettrica cerebrale e capire se il cervello si trova in uno stato che favorisca l’apprendimento. L’idea è che se il cervello sembra codificare i ricordi in modo efficace sia lasciato funzionare normalmente, se invece non lavora efficacemente, il sistema di Kahna fornisce rapidamente impulsi elettrici per porlo in uno stato di funzionamento a maggiore prestazione. Il tutto sembra un po’, se ci si permette l’analogia, un pacemaker per il cervello.

Chiaramente a questo punto sorgono numerose domande. Se il cervello dei pazienti fosse impiantato con un maggior numero di elettrodi in grado di fornire anche risultati più precisi, gli algoritmi potrebbero decodificare più segnali neuronali, con una maggiore specificità, su scale temporali più piccole? Anche altri avere altri dati potrebbe aiutare: la maggior parte dei pazienti con epilessia può partecipare a studi come questo per un paio di settimane al massimo, il che limita il tempo che i ricercatori possono trascorrere con loro. Un algoritmo di apprendimento automatico addestrato su più di tre sessioni potrebbe funzionare meglio di quelli nell'ultimo studio di Kahana.

Ma anche con una maggiore risoluzione e più dati di addestramento, gli scienziati dovranno cimentarsi con le implicazioni epistemologiche ed etiche delal cosa. L’uso di algoritmi non trasparenti, le black box del machine learning, per studiare e manipolare i cervelli genera almeno tante perplessità quante sono le speranze o le aspettative. Da un punto di vista epistemologico il sistema di Kahana può migliorare il richiamo di alcune parole in circostanze specifiche, ma non sa esattamente come funzioni il miglioramento ne che cosa si stia realmente facendo. Questa è la natura epistemologica propria del machine learning. Applicarla all’uomo in contesti di ricerca e con riultati incerti fa sorgere tutta la natura etica del problema.

Alcuni propongono di utilizzre algoritmi più complesso di quelli, relativamente semplici, utilizzti fin’ora. Tuttavia il fatto che tecniche di machine learning più complesse si traducano necessariamente in miglioramenti cognitivi maggiori è tutta da mdimostrare. Mentre è certo che così facendo si perde ancora di più il controllo di cosa f ala macchina e si espone il paziente a una zona di dubbio ancora maggiore.

Il punto è come dare un senso alla decisione della macchina di fornire determinati impulsi elettrici in un modo che possa essere scientifico e accettabile: capibile nel perché e almeno prevedibile in maniera che potremmo definire accettabile in maniera analoga a quanto fatto con altri esperimenti scientifici.

Inoltre dobbiamo chiederci se sia lecito intervenire sulla memoria di terzi: potremmo non solo decidere che la persona ricordi meglio con degli impulsi specifici ma anche utilizzare le nostre macchine per impedire questa memorizzazione. Forse per scopi buoni ma anche, se diventiamo veramente cinici, con scopi cattivi.

Ancora una volta tecnologia, AI e neuroscienze ci chiedono un’etica.

Per inquadrare bene lo scenario ci serve partire dalla storia recente. Non molto tempo fa la città di Chicago ha consegnato il controllo dei suoi parchimetri a un gruppo di investitori privati. I funzionari hanno pubblicizzato l’accordo come un’innovativa “win-win situation” — un’espressione idiomatica inglese che indica un accordo da cui entrambe le parti emergono con un vantaggio. La municipalità di Chicago, in cambio di un contratto di affitto di 75 anni, ricevette una somma forfettaria che andava a colmare un vuoto di bilancio cittadino. La prospettiva storica ci fa riconoscere che quel grosso pagamento anticipato era di gran lunga inferiore ai potenziali guadagni dei contatori: era almeno di 1 miliardo di dollari troppo basso.

Alcuni economisti che hanno commentato la questione sottolineano come la città abbia potuto stringere un accordo così cattivo proprio perché era una città: se il managment di una società privata avesse fatto quello che ha fatto Chicago, accettando un accordo volto a risolvere dei problemi finanziari a breve termine, senza considerare adeguatamente le implicazioni a lungo termine, come fatto dall’Ufficio dell’Ispettorato Generale di Chicago a quel tempo, sarebbe stato denunciato per aver violato il suo dovere di vigilanza. Tenendo a mente questo notevole precedente passiamo agli scenari contemporanei.

A partire dallo scorso autunno, Toronto ha ricevuto molta attenzione da parte dei media per un accordo con Sidewalk Labs, una società spinoff di Google del gruppo Alphabet. Secondo i documenti trapelati l’accordo consiste nel dare a Sidewalk l’autorità per costruire in un quartiere, Quayside, che attualmente non è sviluppato ed è esteso quasi 5 ettari — 12 acri -. L’idea è che in cambio degli investimenti, Sidewalk raccoglierà dati su qualsiasi cosa accada nel Quayside, dall’uso dell’acqua alla qualità dell’aria, fino ai movimenti della futura popolazione di Quayside. La società del gruppo Alphabet utilizzerà tali dati per far regolare l’energia, i trasporti e tutti gli altri servizi. DI fatto il quartiere sarà inondato di sciami di sensori che saranno costantemente attivi: all’interno e all’esterno degli edifici e sulle strade i sensori monitoreranno e moduleranno in risposta le infrastrutture.

La cosa che ha fatto scalpore è anche la dichiarazione rilasciata dall’autorità municipale: la città di Toronto ha rivelato di non essere a conoscenza che ci fosse un accordo con Google… Ora la situazione appare caotica: i dettagli dell’accordo non sono pubblici, il processo di pianificazione viene pagato da Google e Google non continuerà a finanziare tale processo a meno che le autorità governative non promettano che raggiungeranno un accordo definitivo in linea con gli interessi di Google . Questi interessi includono il desiderio di Google di espandere i suoi esperimenti a Toronto oltre lo spazio di 5 ettari di Quayside.

Toronto, come Chicago un tempo, sembra avere in mano troppo poche carte. Eppure la città ha ancora la possibilità di agire come un buon amministratore evitando i rischi a lungo termine che derivano dal coinvolgimento di Google nella pianificazione urbana.

Quando Toronto decise di ricostruire il lungomare orientale quasi 20 anni fa, gran parte della terra nella zona era di proprietà della città, della provincia dell’Ontario e del governo nazionale. Per facilitare il processo di sviluppo, queste entità diedero vita al Waterfront Toronto, una società senza scopo di lucro gestita da un consiglio di amministrazione privato: la Waterfront Toronto ha l’autorità per definire le strategie sui piani di rivitalizzazione, pur rimanendo al decisore politico l’autorità di approvare qualsiasi accordo che avesse a che fare con terre di proprietà del governo. È stata la Waterfront Toronto, che agisce senza il controllo dello staff municipale, che ha fatto il contratto “quadro” con Google lo scorso autunno da cui è nata tutta la pubblicità mediatica che ha imbarazzato il comune.

E che grande pubblicità è stata. I disegni e gli schizzi pubblicati finora da Sidewalk sono visivamente accattivanti, con edifici modulari, completamente verdi, una vivace alternanza tra piccole imprese e zone residenziali. Una zona disseminata di piccoli parchi vivaci. A capo di Sidewalk Labs c’è l’ex vice sindaco di New York, Dan Doctoroff, che ha subito rilasciato una dichiarazione alla stampa. Secondo le sue parole l’idea di Google è quella di migliorare la qualità della vita nelle città in generale, e per far questo si è partiti dal porgetto pilota di Quayside. Le infrastrutture tecnlogiche di Google, dense di sensori, telecamere e antenne, potrebbero, secondo Doctoroff, arrivare anche a migliorare la democrazia.

La realtà sembra però essere meno utopica: Google avrebbe concordato — in un documento quadro che resta ancora segreto nei dettagli — di spendere 10 milioni di dollari su un processo di pianificazione il cui scopo è quello di produrre accordi che possono essere implementati solo se la città e le altre autorità governative seguono un piano a chiaro vantaggio di Google. (E Google ha chiaramente bisogno dei suoi esperimenti su Quayside per operare su una scala più ampia in modo che possano essere economicamente vantaggiosi per l’azienda).
Tutta la copertura mediatica ha dato a Google una tremenda leva politica mentre la città si sforza di capire cosa sia meglio fare con i tempi e con i ritmi lenti della politica. Nell’ultima settimana di gennaio il consiglio comunale di Toronto ha ricevuto un rapporto da cui si evince che la città non sapeva cosa stava facendo il Waterfront Toronto. In risposta, il consiglio comunale ha chiesto a Waterfront Toronto di includere due assessori comunali nel processo di pianificazione.

Tralasciando tutte le questioni sulla privacy, sulla libertà e sul processo di datificazione che abbiamo analizzato in altri post su argomenti analoghi, ci sembra che il problema chiave sia il fatto che i funzionari della città potrebbero non avere consapevolezza della visione limitata cui sono soggetti: avranno accesso a pochissime informazioni su ciò che Google impara dai loro cittadini. Dopotutto, Google già conosce una quantità enorme di ciò che le persone stanno facendo quando utilizzano i prodotti Google e non condividerà ciò che già conosce sui cittadini di Toronto. Per inciso bisogna anche dire che la città potrebbe non volere queste informazioni per non dover gestire il rischio che i dati possano essere resi pubblici in risposta a una richiesta di tipo pubblico.
Ad oggi non è chiaro se Toronto possa ottenere utili spunti dalla sua partnership con Google. Nel frattempo, Google diventerà capace di acquisire knowledge e capacità di intelligence sulla vita urbana, tra cui l’uso dell’energia, l’efficacia del trasporto, le strategie di mitigazione del clima e i modelli di erogazione dei servizi sociali. Questo know-how potrà essere rivenduto alle città di tutto il mondo. Compreso, paradossalmente, Toronto stessa.

Ci sembra a questo punto di poter evidenziare una domanda che i policy makers e i decisori politici dovrebbero porsi. Qualsiasi città che contempli installazioni “IoT” (di internet delle cose, cioè di sensoristica collegata a servizi avanzati e in real time) da parte dei giganti dell’IT da effettuarsi “gratuitamente”, si deve chiedere se questo sia un atto di buona amministrazione, se contribuisca alla reputazione della città e se sia uno strumento affidabile a lungo termine.

Quando le società private fanno affari, i loro amministratori sono soggetti a un insieme di obblighi fiduciari: un dovere di diligenza, un dovere di lealtà e un dovere di trasparenza. Anche le città sono, per certi versi, delle corporation. Specie i grandi centri urbani. Oggi, le grandi città, specie in Europa e negli Stati Uniti, hanno dimensioni e complessità di grandi aziende , controllando anche delle società di erogazione di servizi con bilanci importanti. Dovrebbero quindi organizzarsi anche in maniera analoga alle aziende con strumenti simili che ne definiscono le finalità e i doveri. Quando una città agisce nel mercato privato vendendo, anche indirettamente, dati tratti dai suoi cittadini, è improbabile che sia immune da cause legali. È più probabile che le città siano protette dal contenzioso quando chiaramente “governano”. E quindi anche i loro doveri di cura, lealtà e trasparenza dovrebbero applicarsi a tutto questo settore.

Ci sono sicuramente impiegati pubblici in ogni città che sono profondamente preoccupati per le massicce offerte di IoT alle loro città da parte di aziende come Google. È probabile che il peso di questi accordi, nel corso degli anni a venire, possa compensare i benefici a breve termine che la città ottiene. Ci potrebbe essere un giorno in cui, come è accaduto a Chicago con i parchimetri, i cittadini diventino consapevoli e furiosi per quanto è stato fatto dall'amministrazione. Tuttavia a quel punto gli amministratori responsabili di queste scelte non saranno più in carica e l’unica cosa che resterà sarà il danno fatto. Ciò renderà ancora più difficile per le città affrontare i problemi di alloggi a prezzi accessibili, senzatetto, cambiamenti climatici e altri problemi urbani che già ora affrontano ogni giorno.

Per evitare questi scenari distopici, le città devono mettersi al lavoro e creare commissioni di esperti prima di stringere questo tipo di accordi contrattuali: essere chiari e coerenti rispetto alle priorità della città e ai valori , piuttosto che essere uidati dalle priorità di aziende come Google; discutere i benefici a lungo termine del procedimento, in pubblico; e, come minimo, vincolare ciò che le aziende potranno fare in futuro con ciò che apprendono dai loro cittadini.
Toronto ha la possibilità di farlo, a partire da ora.

Una prima questione riguarda il processo di fisicalizzazione (mortar and brick per usare il termine tecnico inglese) che Amazon e i grandi giganti del retail online. Amazon aveva adottato misure per entrare nel business della vendita di alimenti freschi, ma questo settore merceologico era ben lontano dalle aree di competenza dell’azienda.

Un secondo elemento che ha guidato le speculazioni era connesso al fatto che gli analisti avevano notato che Amazon è stato, e continua ad essere, uno degli investitori più aggressivi nella robotica e nella tecnologia dell’intelligenza artificiale. Sei anni fa, Amazon ha acquistato Kiva, un’azienda produttrice di robot mobili per rendere più semplice l’automazione dei centri di distribuzione di Amazon, risparmiando potenzialmente miliardi di dollari e dando vita ad Amazon Robotics. Quando ha acquisito Whole Foods sembrava ovvio che Amazon potesse tentare di automatizzare anche la catena di supermercati.

Con l’apertura di questa settimana, a Seattle, del primo negozio di alimentari Amazon automatizzato, chiamato Amazon Go, la visione di Jeff Bezos sul futuro del settore retail è completamente in mostra ed è una visione che, da quanto vediamo, coinvolge pochissimi lavoratori umani reali. Ciò che ha creato Bezos ha quindi implicazioni potenzialmente enormi per economisti, datori di lavoro e responsabili politici se il successo sarà paragonabile a quello dei suoi altri business. La questione, ne siamo certi alimenterà sicuramente il dibattito sull'automazione e il futuro del lavoro.

L’automazione si è diffusa in tutte le industrie manifatturiere di tutto il mondo, introducendo la tecnologia in linee di assemblaggio per svolgere alcuni dei lavori fisicamente più gravosi e ripetitivi. I robot sono spesso progettati per rendere i lavori degli operatori umani meno stressanti e più efficienti. Questo è un punto molto importante da tener presente: se il lavoro umano diviene meno usurante e meno rischioso per l’uomo la robotizzazione è un bene al servizio della qualità della vita e deve far combattere, come più volte ha detto Marco Bentivogli, le fake news sul mondo del lavoro.

https://www.youtube.com/watch?v=NrmMk1Myrxc

Tuttavia sappiamo che la tecnologia potrebbe evolvere al punto in cui i ruoli quasi si potrebbero invertire. Alla fine, gli operai o i lavoratori potrebbero essere relegati semplicemente ad aiutare le macchine a eseguire quasi tutti i compiti, a volte sospesi in background nel caso si rompessero. A un certo punto, gli operatori umani potrebbero non essere affatto necessari, o almeno non nello stesso modo in cui lo sono stati fino ad oggi.

I negozi al dettaglio, con i loro imprevedibili ambienti fisici e le costanti interazioni con i clienti erano, al contrario di altri settori, considerati molto più difficili della produzione automatizzata. Daron Acemoglu, un economista del M.I.T. ha commentato come “la vendita al dettaglio è in ritardo in termini di automazione high-tech. Ha avuto il settore legato ai commessi che in parte è stato già state automatizzato, come i cassieri e così via, ma molte altre aree, come negozi di alimentari e centri commerciali, sono molto indietro in termini di robotizzazione, perché le attività svolte dalle persone sono spesso più complesse”.

Se ci pensiamo non si tratta di spruzzare ripetutamente vernice su parti del corpo macchina o praticare fori su pezzi di acciaio: i venditori al dettaglio spesso assistono gli acquirenti, rispondono alle domande o riforniscono gli scaffali. È una cosa difficile da ottenere tuttavia Amazon Go è un segnale che questo probabilmente potrà avvenire.

Negli States i negozi al dettaglio impiegano 4,8 milioni di persone, secondo il Bureau of Labor Statistics e saranno loro, e i milioni di altri che lavorano in ruoli secondari dietro le quinte delle attività commerciali, i diretti interessati.
Per decenni, la convinzione condivisa dagli economisti è stata che i progressi tecnologici hanno creato più posti di lavoro — o almeno tanti quanti — eliminati, spostando spesso i lavoratori in ruoli più sofisticati che non potevano essere automatizzati. Per fare un esempio i cassieri di banche sono stati in gran parte sostituiti da bancomat (i famosi sportelli automatici ATM) ma il numero di persone impiegate presso le banche è nondimeno aumentato.

Negli ultimi anni, però, come i campi della robotica e delle AI hanno sperimentato ampi balzi tecnologici, il dibattito si è spostato, e molti economisti hanno riconosciuto che l’equilibrio tra posti di lavoro creati e posti di lavoro eliminati potrebbe iniziare a muoversi in un’altra direzione, portando quasi certamente a una maggiore disuguaglianza di reddito.

Già siamo abituati alla possibilità di effettuare acquisti in negozio tramite, spesso esasperanti, chioschi di self-checkout esiste da un po’ di tempo; la novità è che la piccola rivoluzione che Amazon Go porta all’esperienza di acquisto è proprio l’eliminazione del processo di checkout. I computer analizzano i telefoni degli acquirenti mentre entrano, e vengono automaticamente create le note spese per gli oggetti che i clienti mettono nei loro sacchetti della spesa e che portano a casa (è interessante che in un articolo un giornalista del Times ha detto che l’esperienza sembrava un “taccheggio”). In Amazon Go ci sono ancora alcuni lavoratori umani che continuano a girare nel negozio, a gestire problemi, a rispondere a domande e a controllare il documento di chiunque cerchi di comprare del vino (la vendita degli alcolici è strettamente proibita ai minori di 21 anni negli USA).

Dal punto di vista del consumatore, se il sistema funziona davvero, la tecnologia potrebbe trasformare il compito di fare la spesa: niente più attesa spasmodica in una lunga fila per pagare alla fine degli acquisti.
Dobbiamo riconoscere che è difficile dire se la tecnologia nel mondo del retail metterà fuori dal mercato del lavoro milioni di persone, o semplicemente crei nuove opportunità per trasferirsi in altri tipi di lavoro. La risposta a questa domanda sarà decisa dai politici e dalle scelte di politica pubblica sulla fiscalizzazione, sulla politica dell’istruzione e sulla spesa per le infrastrutture: queste sono tutte voci che hanno effetti molto grandi sulle scelte di una qualsiasi azienda, anche di una così grande e potente come Amazon.

Quello che dobbiamo aver presente è che le condizioni economiche e tecnologiche che stanno determinando dove l’automazione ci sta portando, non sono scolpite nella pietra ma sono scelte sociali su cui i decisori politici e i policy makers hanno grande spazio di intervento. Spetta all'opinione pubblica sollevare la questione e spingere i decisori a mettere in atto politiche che siano di migliore interesse per la collettività. Non si tratta di essere passivi come di fronte a un destino inevitabile ma di farci co-attori in questo processo di modellazione della società attraverso l’automazione e l’introduzione delle AI.
Anche se c’è ancora molto da capire sulla relazione tra automazione e occupazione, la normativa fiscale attuale e altre politiche di fatto hanno incentivato i datori di lavoro a sostituire i lavoratori con le macchine, ma non hanno mai incentivato l’introduzione di macchine che potrebbero lavorare in collaborazione con i lavoratori umani.

Sono convinto che l’automazione ha il potenziale per creare maggiore ricchezza ma ha anche il potere di aumentare allo stesso tempo l’ineguaglianza economica. L’aumento di macchine sempre più potenti ridurrà inevitabilmente la domanda di lavoro umano ma se si genera una consapevolezza sociale che diventi un impegno con a condividere la ricchezza dell’economia robotica in modo più equo assieme a investimenti appropriati nell'istruzione e nella formazione dei lavoratori l’aumento della disoccupazione e della disuguaglianza potrebbe essere gestito o almeno rallentato.

Di fatto se non troviamo un modo per creare ricchezza condivisa mediante l’incremento dei margini di produttività generati dalle AI c’è il pericolo che si generi una reazione sociale e politica a queste nuove tecnologie — un nuovo luddismo — che può rallentare o addirittura arrestare completamente la loro adozione e sviluppo e danneggiare il benessere del paese.

L’era degli smartphone, della condivisione globale, dello “share what you like” sta cambiando il nostro modo di vivere. C’è una società negli Stati Uniti che ha inventato qualcosa che, seppure esistesse già (ovvero la condivisione delle tracce Gps sul web), sta trasformando il fitness e la condivisione dei dati sportivi in un a nuova frontiera. L’idea è di unire i dati personali a quelli social creando una comunità di appassionati di nuova generazione: Strava.com. Parafrasando le parole stesse di Strava ora ciascuno di noi può analizzare la proprie traccia Gps, conservare gli allenamenti, i progressi e condividerli. Per un atleta l’invito al social fitness suona così: “Diventa metodico. Analitico. Preciso. E inventati delle gare dove non ci sono gare. Divertiti. Gioca. Esplora. E poi ricomincia…”.

Questa nuova modalità che crea una miscela di fitness, sport, avventura e social è esplosa contagiando praticamente tutto il mondo occidentale. Al momento Strava dichiara circa 230.000 utenti “premium”, utenti cioè che in cambio di un’abbonamento ottengono una serie di servizi aggiuntivi di analisi dei propri dati e di suggerimenti per migliorare — è come avere un personal trainer in tempo reale che ti suggerisce come allenarti tramite il cellulare — e 1.500.000 utenti normali. Questi numeri hanno portato nel 2016 a caricare nel sistema 304 milioni di attività su 6.8 miliardi di km di terreno attorno al mondo.

Il fenomeno è così globale e in crescita che Strava ha un intero dipartimento, gli Strava Lab, che cerca di trovare soluzioni innovative e potenzialmente remunerative per utilizzare i dati e le attività che i suoi utenti generano. A fine del 2017 gli Strava Lab hanno prodotto quella che chiamano la Global Heat Map: grazie a più di un miliardo di attività e a 13.000 miliardi di dati caricati è disponibile la mappa delle zone di fitness del mondo. L’idea sembrerebbe molto interessante e utile: se ci troviamo in una città che non conosciamo potremmo seguire i tracciati più utilizzati per fare sport e avere la certezza di poter correre o pedalare in zone ritenute sicure dagli atleti e magari poter godere di fantastici panorami o scorci cittadini.

Tutto sembrerebbe positivo e capace di migliorare le enostre abitutdini di vita, però se guardiamo questa heat map possiamo scoprire dati interessanti…

Spostiamoci in una zona del mondo non esattamente frequentata dai turisti: Bagram in Afghanistan. Non ci troviamo esattamente in un luogo occidentale e infatti guardando la regione a colpo d’occhio la mappa rimane nera e non si illumina come l’Europa o gli USA. Però, in questo oceano scuro, si possono vedere delle zone illuminate. Se facciamo lo zoom vediamo che degli atleti sono soliti correre lungo un perimetro dalle forme molto singolari. Chi sono questi occidentali in questa regione? E che luogo è mai questo?

La risposta è facile: i tracker sono di soldati appartenenti all'esercito USA impegnato nella regione e la heat map non è altro che un mappa tracciata correndo della più grande base aerea dell’aviazione americana nella regione. Come è possibile che dati così sensibili, conformazione di luoghi ad altissima sicurezza e percorsi abituali dei soldati, diventino liberamente accessibili su internet? La questione chiede di essere analizzata.

Di fatto seguendo la heat map di Strava sembra possibile individuare e mappare la struttura delle basi militari straniere in paesi come la Siria e l’Afghanistan, avendo in contemporanea dati di come i soldati si muovono al loro interno. Appena la questione si è diffusa in rete un portavoce dell’esercito americano ha riferito che l’intelligence sta esaminando la heat map e il colonnello John Thomas, membro dell’aeronautica militare nonché portavoce del Comando centrale degli Stati Uniti, ha dichiarato al Washington Post che le forze armate statunitensi stanno riesaminando le implicazioni.

Strava che offre agli utenti la possibilità di contrassegnare le attività come pubbliche o private ha assicurato di aver escluso le attività contrassegnate come private dalla mappa: gli utenti che registrano i loro dati di esercizio su Strava hanno la possibilità di rendere i loro movimenti pubblici o privati e, a detta della compagnia, i dati personali non sono mai stati inclusi nella heat map. Tuttavia la precisione delle mappe che appare dalla heat map suggerisce che un gran numero di militari in tutto il mondo hanno condiviso pubblicamente i loro dati di localizzazione. L’ultima versione della mappa è stata rilasciata a novembre 2017, ma le questioni di sicurezza e le possibili implicazioni per il personale di servizio sono state rese pubbliche solo durante il fine settimana grazie ad alcuni post di utenti sparsi nel mondo.

Nathan Ruser, uno studente universitario australiano che per primo ha evidenziato il problema, ha detto di aver trovato la mappa mentre navigava su un blog di cartografia la scorsa settimana. “Ho appena guardato e ho pensato, ‘oh diavolo, questo non dovrebbe essere qui — non è buono” ha detto Nathan in un intervista alla BBC.
La posizione delle basi militari è generalmente ben nota, sia dalle fonti locali che da strumenti di imaging satellitare preesistenti come Google Earth. Ma le preoccupazioni sulla heatmap di Strava sono principalmente incentrate sul fatto che la ricostruzione degli Strava Lab mostra il livello di attività — mostrato come luce più intensa — e il movimento del personale all'interno delle mura. Guardando bene la mappa i dati sulla posizione sono rintracciabili anche nell'area esterna alle basi, il che potrebbe mostrare percorsi di allenamento di uso comune o strade pattugliate. Il dato preoccupante è che da questa mappa si possono costruire delle routine o delle abitudini di vita di personale militare che svolge missioni spesso segrete in luoghi ad alto rischio: una falla nella sicurezza molto grande.

Siccome l’app è molto più popolare in Occidente che altrove le basi militari straniere si distinguono come “punti caldi” isolati in Medio Oriente dando una precisione di informazioni che fa impressione. Altre basi facilmente identificabili includono quelle usate dagli Stati Uniti in Siria e Iraq, una base della RAF britannica nelle Falkland e una usata dalle forze francesi in Niger. L’attività era visibile anche presso la base russa di Hmeimim in Siria. In un post sul blog dei Lab in novembre, Strava ha dichiarato che la versione più recente della mappa è stata costruita da un miliardo di attività: circa tre miliardi di punti di dati, che coprono 27 miliardi di km di distanza percorsa.

Appena la notizia si è diffusa Strava ha rilasciato una breve dichiarazione in cui sottolineava che i dati utilizzati erano stati resi anonimi e “esclude le attività che sono state contrassegnate come zone private e definite dall'utente”. Il comunicato continua dicendo: “Siamo impegnati ad aiutare le persone a comprendere meglio le nostre impostazioni per dare loro il controllo su ciò che condividono”.

La questione sembra essere un esempio notevole di due filosofie che si fronteggiano nell’uso e nell’analisi dei dati. Da una parte la visione dell’Europa che grazie alla normativa GDPR vuole impostare una governance dei dati e del loro utilizzo. Il regolamento generale sulla protezione dei dati (GDPR, General Data Protection Regulation- Regolamento UE 2016/679) è un Regolamento con il quale la Commissione europea intende rafforzare e rendere più omogenea la protezione dei dati personali di cittadini dell’Unione Europea e dei residenti nell’Unione Europea, sia all’interno che all’esterno dei confini dell’Unione europea (UE).Il principio di responsabilità legato al trattamento dei dati personali resta ancorato (come nel Codice per la protezione dei dati personali) ad un concetto di responsabilità per esercizio di attività pericolosa con una valutazione ex ante in concreto ed una sostanziale inversione dell’onere della prova. Per non rispondere del danno commesso derivante dal trattamento dei dati personali occorre sostanzialmente provare di aver fatto tutto il possibile per evitarlo. Il Regolamento aggancia e sviluppa questo tipo di responsabilità verso il concetto di Accountability (art. 5 co. 2).
Di contro, altri modelli che puntano alla deregulation vedono la questione dei dati come un accordo a due tra il singolo e le diverse società: una volta che sono stato messo davanti alla possibilità di scegliere se consentire o meno all’uso dei dati in un contratto con la società che li raccoglie la questione si risolve in una relazione a due in cui lo stato o le istituzioni non hanno alcun diritto di intervenire.

I casi come quello della heat map di Strava ci dicono vari elementi di cui bisogna tenere conto. I dati sono un materiale grezzo. Dai dati si arriva alle informazioni ma le informazioni non corrispondono ai dati. Quindi come in questo caso i dati individuali legati al fitness di singoli individui consentono di estrarre informazioni connesse a operazioni militari, basi e sicurezza nazionale. Allora i dati non possono mai essere riducibili a un rapporto a due perché le informazioni da questi estraibili non è detto che siano inerenti o appartenenti al produttore dei dati. In secondo luogo quello che emerge è come sia irrealistico pensare che l’utente abbia una consapevolezza del significato e delle conseguenze che ha il suo consenso al trattamento dei dati. Serve un garante istituzionale che protegga il singolo analizzando l’uso che le grandi società fanno di questi dati. Quello che è in gioco con la datificazione della nostra vita è la libertà e la sicurezza. In una società complessa le istanze etiche sui dati sono complesse: serve un’etica dei dati che diventi policies e norme di tutela del cittadino, delle istituzioni e delle libertà individuali e collettive.

L’Economist, il famoso magazine britannico, nello spirito di andare veloce e anticipare il futuro, ha realizzato un software dotato di intelligenza artificiale in grado si scrivere un pezzo per la sezione Scienza e Tecnologia del magazine.
Acceso il sistema, il board editoriale ha invitato la macchina a sottomettere un suo pezzo per la pubblicazione. Il risultato è un pezzo inedito, che abbiamo tradotto a seguire, dove si rende visibile tanto la potenza quanto i limiti dell’apprendimento automatico e del riconoscimento di pattern che è ciò a cui, più o meno, si può ricondurre l’intelligenza artificiale.

Il computer ha imitato lo stile del giornale e ha individuato argomenti che vengono trattati frequentemente. Ma sebbene le frasi siano grammaticalmente corrette, alla lettura mancano di significato. Con grande sollievo, il corrispondente della sezione Scienza e Tecnologia dovrebbe avere un lavoro anche dopo la pausa di Natale.

Alcune questioni…

Il punto non è la qualità di questo esperimento (le risorse e il tempo erano limitate) ma la prova di concetto che esso offre. Le AI sono in grado di imitare l’uomo trovando schemi e ripetizioni che di fatto sono le strutture formali e sintattiche del nostro linguaggio. Ma il senso, questa qualità e domanda esistenziale del nostro essere uomini non sembra essere computabile. La domanda di senso è una delle questione chiavi del nostro vivere e da sempre è alla base di ogni cultura, della filosofia e della religione. Abbiamo indicato negli dei, nella ragione o nell’amore il cuore di ogni senso. L’uomo “riposa”, cioè trova quiete al suo domandarsi, solo quando trova senso.

Questo è quello che per esempio ha portato a vedere un senso nella natura capendola come un disegno, un progetto, di un Qualcuno che chiamiamo Creatore. Questo ha portato alle cosmologie e alle antropologie che hanno sostenuto gli uomini e il loro capire nelle filosofie. Questo ha generato i riti di passaggio che sono il cardine di ogni cultura umana: luoghi di senso e del sentire. Questo ha spinto gli uomini nelle loro passioni e nell’arte nel nome dell’amore.

Però oggi le AI presentano un nuovo scenario. Il senso che troviamo o che possiamo trovare non è nel già dato della natura, dell’uomo, del cosmo o dell’universo ma in un costrutto della macchina che imita le strutture di senso dell’uomo.

Allora il problema è di filosofia e di epistemologia. Il generato dalle AI è fatto secondo schemi che possono indurre il senso ma non ha alcun fondamento nella realtà (i latini direbbero cum fundamento in re) ma illude il nostro senso. Che tipo di conoscenza è questa? Che valore ha? Come va trattata e considerata?

Insomma la domanda prima che tecnologica è etica e filosofica: nella misura in cui vogliamo affidare competenze umane, di comprensione, di giudizio e di autonomia di azione a dei sistemi software di AI dobbiamo capire il valore, in termini di conoscenza e capacità di azione, di questi sistemi che pretendono di essere intelligenti e cognitivi.

Queste sono domande che aprono un’indagine più che concluderla ma ora, per capire meglio il tema che si apre, lasciamo spazio al lavoro del reporter robot …

​​Il pezzo scritto dal software…

Un MUST dei maggiori scienziati informatici del mondo ha dimostrato che il costo del trasporto delle onde sonore nella parte posteriore del sole è il modo migliore per creare una serie di immagini del tipo che può essere risolta. È anche perché lo stesso film è un prototipo speciale (vedi <a href=’/node/105180'> articolo </a>). Una persona con una porzione di software può essere trasmessa da un processo di sicurezza che può essere aggiunto a un singolo bit di lettura. Il materiale è composto da un singolo pixel, che è possibile e quindi fa sì che il laser venga avviato per convertire il vapore risultante sulla superficie della batteria in grado di produrre energia dall’aria e quindi trasformarla in un display a basso costo. La soluzione è quella di codificare il controllo speciale di un chip che si trova in una macchina.

Il risultato è una forma di un’alternativa alle auto elettriche, ma il problema più famoso è che il sistema di controllo è quindi alimentato da un computer che è composto da una seconda parte dello spettro. La prima soluzione è tutt’altro che economica. Ma se è un po ‘come un solido foglio di contatto con lo spettro, può essere letto come sono disponibili le onde sonore. La posizione del sistema è costituita da un carbonio contenente un componente speciale che può essere utilizzato per collegare l’aria a un motore diesel convenzionale.

Il problema con l’approccio è che raggiunge il combustibile riflettendo una cella a combustibile in una serie di materiali sensibili alla luce che è composta da energia solare. Nel frattempo, il processo può essere fatto per fungere da prototipo di una macchina superconduttiva. La tecnologia è anche un processo a corto raggio che viene sviluppato per il confronto con i campi magnetici del sistema solare.

Il risultato è una sostanza chimica chiamata nanotubo di carbonio che viene assorbita dal processo di conversione di un ossido solido in una sostanza chimica specifica del nervo cellulare. Il materiale è in grado di estrarre energia dall’immagine e quindi rilascia gli elettroni che possono essere rilevati stimolando l’immagine nel flusso sanguigno. La temperatura superficiale non è una molecola che viene anche confrontata con la piccola energia della struttura di un metallo. Un singolo organo è una grande quantità di energia, che è particolarmente intensa. La camera di combustione interna è quindi in grado di produrre un fotone che viene sviluppato per produrre una seconda proteina chiamata proteina che provoca il corpo che ha un processo complesso e comparabile per fermare i componenti di un antibiotico.

Uno sguardo al progetto

Fico viene da un bisogno pubblico di natura amministrativo. Negli anni Settanta è stato pensato il Centro Agro Alimentare di Bologna (CAAB) in una zona periferica della città: ideato come piastra logistica ha aperto negli anni Novanta quando già il business in quel settore stava cambiando ed è divenuto presto superato. Il Comune di Bologna, socio di maggioranza della struttura, aveva un problema: a differenza di altri comuni italiani decise di non lasciare la questione alle amministrazioni successive e provò a risolvere pensando di coinvolgere anche il settore privato. L’idea è stata di coinvolgere l’imprenditoria privata e in particolare Oscar Farinetti patron di Eataly.

Oggi Eataly, come tutte le aziende che si occupano di retail e di grande distribuzione, deve fronteggiare mille difficoltà operative e di bilancio, ma all’epoca era una potenza di fuoco: c’era New York e il nuovo punto vendita di Roma, il più grande del pianeta. Inoltre la creatura di Oscar Farinetti stava preparando grosse cose in occasione di Expo 2015 a Milano. Da qui è nata l’idea di FICO: un progetto ambizioso nato dall’esperienza di Eataly, l’Expo e con uno sguardo attento alla contemporaneità.

I numeri del progetto erano impressionanti e lo restano anche nella realizzazione: 10 ettari, di cui 8 al coperto. 150 aziende coinvolte (quasi tutte già fornitrici di Eataly o di Coop), 700 posti di lavoro più l’indotto, 40 fabbriche che altro non sono che luoghi in cui le aziende non solo vendono e somministrano ma anche producono con impianti veri e propri (Baladin ha realizzato qui un birrificio, Granarolo fa qui la mozzarella e via dicendo), 6 aule didattiche, 6 giostre educative a tema, un centro congressi da 1000 posti, 47 punti di ristoro (alcuni dentro le fabbriche, altri indipendenti, alcuni di street food, alcuni di ristorazione tradizionali, alcuni addirittura di alta ristorazione gastronomica firmato da Enrico Bartolini), il mercato, le botteghe, il bazar, 200 capi di bestiame negli allevamenti circostanti, 2000 cultivar negli appezzamenti dimostrativi.

Alcune riflessioni peregrine

Al di là dei numeri ci sono una serie di elementi che mi hanno dato da pensare. Penso che FICO, più che una esigenza amministrativa e una opportunità commerciale, sia una spia di alcune importanti componenti sociali e culturali del nostro paese.

Una prima questione che mi spinge a riflettere è l’idea che, in un paese dalle profonde e radicate tradizione culinarie, dove di solito il mangiar bene è una cosa diffusa e di tradizione familiare, si abbia la necessità di aprire un complesso di 10.000 metri quadrati dedicato al cibo. Forse il dover offrire commercialmente la bella e buona eccellenza alimentare italiana dice che un meccanismo tradizionale di trasmissione di questa eccellenza si sia interrotto.

Gli anni Sessanta, il boom industriale e le migrazioni al nord hanno disarticolato le stratificazioni sociali. Però era facile vedere i migranti andare al nord carichi di quelle prelibatezze alimentari, dono delle loro famiglie, che rendevano la distanza da casa e la nostalgia più accettabile. Il formaggio, il salume o i dolcetti di casa erano un legame non solo con la terra di origine ma con tutta la famiglia. Ora se dobbiamo “vendere” questi sapori potremmo leggere questa mutazione come un’assenza del legame familiare. Non ci sono nonne o madri che danno ai figli pacchetti di sapori che dischiudono l’infanzia. Se il buon cibo si compra forse è perché la famiglia e le sue tradizioni diventa eterea e assente. Mangiare bene non è più una cosa sinonima del pranzo di famiglia perché non esiste più il pranzo di famiglia…

Di fatto FICO non è solo un grande supermercato ma un parco a tema. Come Disneyland. Solo che qui quello che è celebrato non il mondo delle fiabe, lo spazio profondo o il Far West ma il cibo. Il cibo, la tradizione dei nostri nonni diventa ora come il Far West un qualcosa che appartiene a un passato che non vive più nessuno e che si fa carico di miti, storie e desideri. In questo Far West nostrano quello che è celebrato non è la nascita di una nazione, come nel caso degli Stati Uniti, ma un Italia che forse è scomparsa, l’italia familiare e contadina dei nostri nonni, che vuole qui essere evocata e celebrata in modo parco tematico. FICO è quindi una sorta di Isola-che-non-c’è dove possiamo illuderci di tornare indietro verso un passato che non abbiamo vissuto, sopratutto nelle sue asperità e povertà che hanno spinto i nostri avi a migrare o a cercare modi ed espedienti per sfuggire alla fame e alla povertà, idealizzandolo e riempiendolo di desideri contemporanei mascherati di tradizione antica.

FICO allora è una realtà impossibile e nostalgica. Dove la nostalgia va intesa in riferimento al suo etimo greco come composto di nóstos ‘ritorno’ e algos ‘dolore’. FICO tampona, previo adeguato pagamento alle casse, quel dolore sociale che proviamo quando affiora alle nostra coscienze l’idea che abbracciare il futuro chiede di lasciar andare un passato che sarà impossibile far tornare. Se vogliamo possiamo pensare il parco come il luogo dove sentire meno forte un senso di smarrimento sociale che si avverte in questo momento di profondo travaglio e cambio d’epoca.

Potremmo addirittura pensare che le tradizioni che diciamo essere la nostra italianità non siano più familiari e neanche di valori vissuti nella convivenza civile. Oggi parte della nostra identità, quella per cui siamo anche famosi nel mondo, il buon cibo, è affidata e custodita a sapienti esperienze commerciali.

Un’ultima considerazione affolla i miei pensieri mentre il treno mi riporta veloce alla città eterna: la dimensione magica di tutto questo. Dentro ogni food corner dell’immensa struttura si cela un piccolo Harry Potter. Gli impiegati delle diverse eccellenze alimentari hanno competenze e capacità arcane. Dal loro rimestio e oscuro emergono pozioni prelibate che ci fanno assaporare un mondo degno degli dei. FICO è anche questo un regno magico dove il cibo non è più espressione di una quotidianità ma artificio impossibile per i non iniziati. Scienza obscura per i suoi adepti che mostra e cela un mondo ormai nascosto e scomparso fatto di maghi, stregoni, elfi e streghe. Se FICO è il segno (forse!) di un’Italia che riparte rischia di essere il segno anche di un’Italia differente fatta di consumatori globalizzati che cercano una nuova identità vivendo la nostalgia di un qualcosa che non torna se non con la magia di una carta di plastica che con la sua striscia magnetica dischiude un mondo incantato.

p.s. al di là di queste considerazioni, il posto è veramente bello e il cibo ottimo. Fa piacere vedere come l’ingegno nostrano abbia prodotto questa realtà. Non vorrei dare un impressione di negatività che non ho. FICO è bello e affascinante. Quello che ha prodotto queste mie riflessioni è quel popolo oscuro e senza volto che ho visto affollare i padiglioni, le giostre, i ristoranti e le casse… W l’Italia!

Le tecnologie informatiche — specie quelle legate ai big data, al machine learning e all’intelligenza artificiale — trasformano le nostre società

Gli algoritmi di calcolo del rischio di recidiva vengono usati per assistere nella decisione di chi può rimanere in libertà in ogni momento del procedimento giudiziale: dalla determinazione della cauzione fino a decisioni fondamentali sulla libertà dell’imputato. In particolare poi nelle corti dell’Arizona, del Colorado, del Delaware, del Kentucky, della Louisiana, dell’Oklahoma, della Virginia, di Washington e del Wisconsin, i risultati di questi calcoli di rischio sono consegnati al giudice come elemento nel determinare la sentenza penale.

​La valutazione del rischio di recidiva è spesso fatta insieme a una valutazione dei bisogni riabilitativi del soggetto. Il National Institute of Correction, la sezione che si occupa delle carceri per il Ministero di Giustizia USA, incoraggia l’utilizzo di queste valutazioni combinate in ogni momento del processo penale e il Congresso è al lavoro per approvare queste valutazioni anche nelle prigioni federali.

ProPublica, un agenzia stampa indipendente e no-profit, che si occupa di giornalismo investigativo e che ha nel suo statuto la missione di: “portare alla luce gli abusi di potere e il tradimento della fiducia pubblica da parte del governo, del mondo degli affari e di altre istituzioni, ha deciso di investigare su questi sistemi.

ProPublica ha avuto accesso, in forza delle leggi sulla trasparenza, alle valutazioni di rischio fatte per oltre 7.000 persone arrestate nella contea di Broward in Florida tra il 2013 e il 2014 controllando quante di queste hanno commesso ulteriori crimini nei due anni seguenti. La scelta è stata fatta sullo stesso campione che l’azienda creatrice degli algoritmi ha utilizzato per valutare l’efficienza e l’efficacia del software.

Le sorprese sono arrivate dall’analisi dei dati. In primo luogo solo il 20% di coloro che erano stati indicati come potenziali recidivi ha realmente commesso ulteriori crimini. Quando sono stati presi in esame un numero maggiore di reati — compresi reati minori quali la guida con una patente scaduta — l’algoritmo ha mostrato tassi di accuratezza poco superiori al tasso di certezza che si avrebbe nell’indovinare il risultato di un lancio di una moneta. Di coloro che erano stati indicati come possibili recidivi solo il 61% è stato arrestato nei due anni seguenti.

Ancora più sconcertante è stata la valutazione dei dati scomposti per gruppi etnici: l’algoritmo è particolarmente fallace nell’indicare i giovani accusati neri come futuri criminali con un tasso doppio di errore rispetto ai bianchi e gli accusati bianchi sono stati individuati erroneamente a basso rischio più spesso degli accusati neri.

​​Qualcuno potrebbe pensare che questa disparità sia stata indotta dai crimini che gli accusati avevano perpetrato in precedenza. La fedina penale in realtà non c’entra. ProPublica ha condotto esami che hanno isolato l’effetto della classificazione etnica dalla fedina penale e dal recidivismo e consequenzialmente dall’età e dal sesso. I risultati sono stati sorprendenti: in quest analisi normalizzata gli accusati neri si sono rivelati avere il 77% di probabilità in più di essere indicati con rischio maggiore di commettere futuri crimini violenti.

Una nota interessante che riporta ProPublica è che l’algoritmo è stato sviluppato da una società commerciale (for profit) la Northpointe che ha contestato in pieno l’analisi statisti di ProPublica.

La vicenda si presta a esemplificare alcune considerazioni etiche rilevanti sul mondo della tecnologia e sull’uso diffusivo di algoritmi predittivi per le scelte umane.

In primo luogo dobbiamo chiederci se questa capacità — presunta o reale — delle macchine ci possa permettere di mettere in atto sistemi legali predittivi. L’essere capaci di indicare dei profili statistici rischia di trasformare una giustizia basata sul crimine commesso in un sistema di polizia fondato sul sospetto degno dei peggiori incubi orwelliani.

In secondo luogo dobbiamo mettere a fuoco il fatto che gli algoritmi possono portare dei “pregiudizi” — di calcolo non morali — che applicati su larga scala possono dare luogo a vere e proprie ingiustizie sociali o discriminazioni.

In terzo luogo ci dobbiamo chiedere se algoritmi che regolano questioni chiave come l’amministrazione della giustizia possono essere resi invisibili perché protetti da dinamiche di proprietà intellettuale e copyright sottraendoli di fatto alla trasparenza e al controllo delle diverse componenti della società civile.

Il caso sollevato da ProPublica è un esempio lampante di come le tecnologie informatiche — specie quelle legate ai big data, al machine learning e all’intelligenza artificiale — trasformano le nostre società. Ma se il futuro potrà essere migliore, più giusto e desiderabile dipende solo dalla nostra gestione dell’innovazione.

Solo un’innovazione che diventa autentico sviluppo umano sarà realizzare un futuro migliore evitando incubi distopici.

Google e altri stanno sviluppando sistemi di intelligenza artificiale che dubitano di se stessi. L’idea è che le AI sapranno prendere decisioni migliori abbracciando l’incertezza.

Un sistema di deep learning è una rete neurale con tantissimi strati. Il sistema informatico imita alcuni aspetti della struttura del cervello umano, con una rete di unità, o neuroni artificiali, collegate tra loro con connessioni, proprio come i neuroni veri sono collegati da sinapsi. Ogni nodo riceve un segnale in entrata, lo modifica, lo trasmette ad altri nodi, che a loro volta fanno lo stesso. I nodi della rete non sono programmati in nessun modo, non sanno nulla del compito che devono svolgere. Semplicemente, la rete riceve un input (per esempio, la foto di un gatto) e deve restituire un output (scrivere “gatto” nella didascalia). Un sistema di deep learning non si programma. Si addestra. All'inizio, non produce risultati esatti. Ma dopo ogni tentativo ricalibra le connessioni tra i suoi nodi (ovvero il modo in cui ogni neurone artificiale modifica e trasmette ad altri il suo segnale), e riprova nel compito, fino a che l’output non si avvicina a quello atteso.

Il successo più eclatante del deep learning lo dobbiamo a DeepMind, società del gruppo Alphabet — Google, e al suo AlphaGo, un sistema di deep learning che gioca a Go: antico gioco da tavola cinese in cui si dispongono pedine bianche e nere su una scacchiera, e si muovono con lo scopo di circondare le pedine avversarie. Nella semplicità delle sue regole, Go è un gioco di enorme complessità matematica. Molto, molto superiore a quella degli scacchi, tanto è vero che, se Deep Blue di IBM già nel 1996 batteva Kasparov, GO è stato a lungo considerato un banco di prova e un obiettivo irraggiungibile per l’AI.

Nella primavera del 2016, quando AlphaGo ha battuto Lee Sedol, campione coreano, al meglio delle cinque partite. Per allenare Alpha Go gli sono stati forniti i dati su migliaia di partite giocate da umani, imparando da solo sia le regole, sia la strategia. La vittoria è stata sorprendente e celebrata, ma con un limite: l’apprendimento di AlphaGo era del tipo supervised, basato sulla disponibilità di un grande database di esempi opportunamente “etichettati”, cioè rendendo intellegibile alla macchine le mosse vincenti, le mosse perdenti, le partite vinte dal bianco o dal nero, e così via.

Quindi la vittoria di AlphaGo non ha molto di nuovo: questo tipo di apprendimento esiste in letteratura fin dagli anni Novanta, qui la novità, e la possibilità di vittoria, è data da una enorme nuova potenza di calcolo e dalla grandissima disponibilità di dati.

​La potenza del deep learning ci consente di pensare di applicare le AI a problemi generali come guidare una macchina o risolvere problemi complessi della vita ordinaria. Però passando dai giochi alla vita reale un sistema che apprende e che lo fa dai suoi errori è problematico. Le scelte nel mondo reali non sono prive di conseguenze e possono portare a esiti negativi: in ballo non c’è solo la perdita di una partita ma beni e valori reali e in alcune ipotesi di utilizzo, come le auto a guida autonoma, anche vite umane. Come risolvere questa fragilità delle AI migliorando la loro potenzialità?

Come riporta il MIT Technology Review, un’autorevole pubblicazione del Massachusetts Institute of Technology, Google e altri stanno sviluppando sistemi di intelligenza artificiale che hanno una nuova capacità: dubitare di se stessi. L’idea è che le AI potranno prendere decisioni migliori se dotate di incertezza. Per questo i sistemi di AI stanno per essere dotati di una nuova funzione acquisendo una nuova capacità: il senso dell’incertezza.

I ricercatori di Uber e Google stanno lavorando alle modifiche di due framework di deep learning molto popolari che consentiranno alle AI di gestire le probabilità. Questo consente ai programmi di intelligenza artificiale di avere una sorta di misura della fiducia che possono porre in una previsione o in una decisione. In sostanza questi sistemi consentirebbero alla macchina, per utilizzare una metafora umana, di sapere quando dovrebbe dubitare di se stessa.

Il deep learning funziona fornendo dati di esempio a una rete neurale ampia e potente, e i successi che conosciamo richiedono molti dati di addestramento e potenza di calcolo. Un sistema così potente di fatto può essere sorprendentemente fragile se usato in senari di vita quotidiana.

In maniera che sembrerebbe un po’ controintuitiva, dotare un sistema di AI di questa funzione di dubbio offre una soluzione a questo problema. Quello di cui sono convinti i ricercatori e gli sviluppatori è che questo nuovo approccio potrebbe essere utile in scenari critici che coinvolgono per esempio le auto a guida autonoma e altre forme di macchine autonome.

Dustin Tran, uno sviluppatore che sta lavorando a questo problema per Google al MIT Review ha detto: “Se un’auto a guida autonoma non conosce il suo livello di incertezza, può fare un errore fatale e questo può essere catastrofico”.

Di fatto l’idea riflette la consapevolezza che l’incertezza è un aspetto chiave del ragionamento umano e dell’intelligenza. Rendere questo processo computabile e trasferirlo algoritmicamente ai programmi di intelligenza artificiale potrebbe renderli più “intelligenti” e meno inclini a errori grossolani, come sostiene ad esempio Zoubin Ghahramani, uno dei leader nella ricerca sull’intelligenza artificiale all’Università di Cambridge e capo ricercatore di Uber.

Questa nuova funzione potrebbe rivelarsi di vitale importanza poiché i sistemi di AI sono utilizzati in scenari sempre più critici.

I ricercatori vogliono realizzare una struttura solida per il deep learning che renda più facile per gli utenti rappresentare l’incertezza. Per implementare questo sviluppo è stato realizzato Pyro, un nuovo linguaggio di programmazione rilasciato da Uber che fonde il deep learning con programmazione probabilistica. Pyro è un linguaggio di programmazione probabilistico universale (PPL) scritto in Python e supportato da PyTorch che consente una modellazione probabilistica che viene definita dai suoi creatori profonda flessibile ed espressiva.

La capacità di incertezza di fatto non consente di implementare un libero arbitrio — free will — ma almeno di rendere pensabile implementare un free won’t.

Noah Goodman, un professore di Stanford che lavora al laboratorio di intelligenza artificiale di Uber, sostiene che dare l’apprendimento profondo la capacità di gestire le probabilità può renderlo più “intelligente” in diversi modi. Ad esempio, potrebbe aiutare un programma a riconoscere le cose con un ragionevole grado di certezza dopo essere stato addestrato con pochi esempi piuttosto che da molte migliaia. Una AI che fosse in grado di offrire una misura di certezza piuttosto che una risposta secca sì o no potrebbe in futuro aiutare a progettare dei sistemi complessi.

Mentre un sistema di deep learning convenzionale impara solo dai dati con cui viene alimentato, Pyro può anche essere usato per costruire un sistema preprogrammato con delle forme di conoscenza. Questo potrebbe essere utile in quasi tutti gli scenari in cui potrebbe attualmente verificarsi l’apprendimento automatico.

Oltre a Pyro è stato sviluppato anche Edward un ulteriore altro linguaggio di programmazione (per essere precisi si tratta di una libreria di modellazione probabilistica per Python, che abbraccia la prospettiva dell’incertezza. Edward è stato sviluppato dalla Columbia University con finanziamenti della DARPA. Sia Pyro che Edward sono ancora alle prime fasi di sviluppo, ma non è difficile capire perché Uber e Google siano così tanto interessati a questi prodotti.

​​Uber utilizza l’apprendimento automatico in innumerevoli aree, dai sistemi di routing all'impostazione dei prezzi e, naturalmente, nelle auto a guida autonoma che l’azienda sta già testando. L’azienda ha investito molto in AI, assumendo un certo numero di esperti che lavorano su nuove idee. Google ha ricostruito il suo intero business intorno all’IA e il deep learning negli ultimi tempi. Come osserva Goodman Pyro ed Edward sono strumenti importanti perché uniscono due scuole concorrenti nell'intelligenza artificiale, una focalizzata sulle reti neurali e l’altra sulla probabilità. Negli ultimi anni, la scuola della rete neurale è stata così dominante che le altre prospettive sono state tralasciate. L’evoluzione delle intelligenze artificiali richiede di abbracciare queste nuove idee.

L’idea di includere l’incertezza nelle intelligenze artificiali non è interessante solo da un punto di vista funzionale. Non siamo interessati solo a sistemi che possono ottenere risultati migliori e più efficienti. L’idea che la macchina possa essere dotata di una funzione di incertezza potrebbe essere anche un’importante framework con cui pensare di implementare sistemi di AI dotati di controllo etico e uomo-centrici. L’idea che la macchina possa avere una computabilità dell’incertezza permette di pesare e gestire le questioni in modo da tutelare i valori e impedire scenari indesiderati. La capacità di incertezza di fatto non consente di implementare un libero arbitrio — free will — ma almeno di rendere pensabile implementare un free won’t.

Recentemente Meetic, la famosa app di incontri fondata da Marc Simoncini con sede a Boulogne-Billancourt in Francia, ha fatto conoscere alcuni dei suoi dati. Da quanto emerso il sito sta nel momento di picco dell’anno. Il Peak moment, o picco di utilizzo, è la situazione in cui le infrastrutture informatiche sono maggiormente sollecitate. In altri termini si tratta di un dato chiave perché è quello che consente ai tecnici di dimensionare le infrastrutture informatiche per evitare che il sistemi si blocchi rendendo il sito inutilizzabile o per evitare di spendere in infrastrutture eccessive per le necessità di utilizzo.

Cosa sappiamo?

Al di là del significato tecnico di questo dato però dalle analisi di Meetic possono emergere altri elementi significativi. Un primo elemento su cui fermare la nostra attenzione è sulle date dei due peak maschile e femminile. Il 3 gennaio, alle ore 22 locali, scatta il peak moment per le donne single sul sito di incontri Meetic. Il sito, cioè, registra il picco massimo annuale di nuove iscrizioni femminili: +81% rispetto alla media quotidiana. Aumentano di conseguenza anche le interazioni fra utenti: le donne ricevono l’85% di mail e messaggi in più rispetto al solito. Anche gli uomini, nel peak moment femminile, ricevano il 42% di attenzioni virtuali in più.

Il peak moment per gli uomini single, invece, arriva un po’ dopo: le iscrizioni maschili su Meetic raggiungono il massimo il 7 gennaio a partire dalle 21. L’incremento maschile però è più massiccio rispetto a quello femminile: le iscrizioni, quel giorno a quell’ora, segneranno un +93% secondo le previsioni fornite dalla società.

Ci si interroga sul significato.

Qualcuno ipotizza che sarà l’effetto delle domande sulla vita sentimentale che durante le Feste parenti e amici ci fanno sempre (a volte anche in modo un po’ pressante). Sarà perché con l’inizio anno si tende a voler cambiare vita e fra i buoni propositi c’è magari anche quello di allargare la cerchia delle conoscenze. Sarà perché, sempre a proposito di conoscenze, tra il Capodanno e l’Epifania ci si annoia sempre un po’ dato che la normale routine non è ancora ripresa. Di fatto i dati ci dicono che a inizio gennaio i single vogliono avere relazioni

Tuttavia emergono anche altri dati interessanti. Se una volta la maggior parte dei giovani avrebbe considerato l’happy hour in un locale molto frequentato perché era un posto in cui è possibile fre molti incontri. oggi i millennial sanno che il bar crawling è un luogo per scopi ricreativi, ma non per avere un appuntamento o uscire con un possibile partner. Sono nate molte app e siti di incontri per ogni tendenza o orientamento sessuale.

Chi sono i big players?

I principali attori del dating onlina includono, oltre a Meetic, eHarmony, Chemistry.com e Match.com per trovare il vero amore e tutti promettono relazioni durature. Siti di nicchia come JDate.com (destinati ai single ebrei), BlackPeopleMeet.com (destinati alla connessione di persone afro-americane), ChristianMingle.com (destinati ai cristiani che cercano single con valori simili) e OurTime.com (destinati a frequentatori con oltre i 50 anni di età) forniscono omonimie di valore per il consumatore.

Tinder è il leader indiscusso nella prima arena mobile. Ci sono molte altre offerte, ma nemmeno una singola app si avvicina alla quota di mercato di Tinder. Zoosk, OkCupid e Hinge sono tutti giocatori e app di nicchia come The League (i membri devono essere scelti per accedere alla app), Bumble (le donne devono iniziare la conversazione), Happn (appuntamenti basati sul luogo) e JSwipe (Jewish Tinder) hanno tutti trovato un pubblico proprio e affezionato.

I numeri sono affascinanti

Un americano su dieciha utilizzato un’app mobile o un sito di incontri e il 23% ha incontrato qui un partner a lungo termine o un coniuge secondo un sondaggio condotto dalla Berkeley School of Information. Di fatto, solo l’11% delle coppie americane che vivono insieme da dieci anni o meno si sono incontrate online.

Nel 2009 il 47% delle persone era convinta del fatto che gli appuntamenti online permettessero di trovare una corrispondenza affettiva migliore; nel 2013 quel numero era salito al 53%. «Incontrare persone con un appuntamento online è il modo giusto per incontrare persone?» A questa domanda nel 2009 il 44% ha risposto «sì» mentre nel 2017 il si è salito al 59%.

È vero che la combinazione dei Big Data mediante le Data Science è predizione del vero amore?

La risposta è «No» secondo gli esperti citati in un articolo di Kristen V. Brown: non vi è alcuna prova secondo cui i siti di appuntamenti fanno qualcosa di più che migliorare il pool di potenziali partner. Nei siti di incontri, gli algoritmi per la corrispondenza sono per lo più specchi e fumo. Vari scienziati di dati spiegano i loro approcci legati agli algoritmi per il dating. Il CTO di eHarmony, Thod Nguyen, spiega la sua proposta come un sistema per la compatibilità di corrispondenza come «un processo altamente sofisticato a 3 livelli». Il modello per compatibilità di corrispondenza riconosce la capacità di comunicazione tra 2 persone e, infine, il modello di distribuzione assicura che eHarmony fornisca «le corrispondenze corrette all’utente corretto al momento giusto e per fornire quante più corrispondenze possibili su tutta la rete attiva».

Sebbene questo possa effettivamente funzionare come strategia di abbinamento, la bidirezionalità è il problema vero. Quando Amazon suggerisce una fotocamera tra i prodotti che vorremmo acquistare, non ha voce in capitolo. Con gli esseri umani, questo non è vero. Qualcuno potrebbe essere il tuo partner ideale, ma ci possono essere un numero qualsiasi di ragioni per cui il sentimento potrebbe non essere reciproco. Esiste un assioma funzionante per tutti gli algoritmi di dating: ragazze e ragazzi sono predisposti geneticamente per essere allettati l’un l’altro e provare a riprodursi (altrimenti nessuno di noi sarebbe qui).

Utilizzare le Data Science per conoscere il modello di partner ideale

Justin long, un contributore e un consulente di deep learning engineer, ha fornito sul proprio blog, il codice per «Tinderbox», un Tinderbot che sfrutta le API di Tinder e utilizza Eigenfaces per costruire un modello invariante del volto intuitivo. Puoi avere l’impressione che sia il tuo «modello ideale», un modello costituito da tutte le caratteristiche che ami di più. Justin Lang utilizza anche Stanford NLP per aiutare il bot a esaminare il sentiment delle risposte alla chat. Il programma ha imparato abbastanza da iniziare a fare le scelte per te dopo circa sessanta tentativi manuali a una velocità che non potresti replicare possibilmente.

Sono i Big Data a tentare di trovare l’amore online

Per trovare la corrispondenza ideale, il dating online pretende di unire scienza e dati. Non c’è da meravigliarsi se oltre ai siti generici come OkCupid, eHarmony e Match.com, il mondo degli appuntamenti online è ricco di siti specializzati per i dater che sono in cerca di un partner in base a molti fattori (ad esempio, religione, età, tratti biologici, reddito).

Big Data e Data Science esplorano il futuro, il presente e il passato degli appuntamenti online. Gli appuntamenti online sono in pieno boom oggi ma gli algoritmi possono essere realmente utilizzati per prevedere l’amore?

I fatti

Dopo aver visitato un sito di incontri online, gli utenti di appuntamenti online trascorrono su di esso una media di 22 minuti. Ogni settimana, vengono coinvolti nell’attività di appuntamenti online proposta dal software per 12 ore. Il 66% delle persone ha frequentato un appuntamento tra quelli incontrati tramite un’app o un sito di appuntamenti e il 23% ha incontrato un partner a lungo termine o un coniuge attraverso questi siti. La maggior parte delle persone oggi crede fermamente che gli appuntamenti online siano un modo molto migliore per incontrare persone e consente loro di trovare la corrispondenza ideale per loro stessi. Il 57% delle persone in America ha un reddito annuale di $ 75k o più e conosce qualcuno che utilizza appuntamenti online. Il 40% conosce qualcuno che ha un partner o un coniuge incontrato attraverso l’online. L’11% delle coppie di americani che sono stati insieme per dieci anni o meno si sono incontrati online. Il 54% delle persone coinvolte negli appuntamenti online ritiene che qualcuno si sia presentato male nel proprio profilo (dati equivoci o fraudolenti). Il 28% di coloro che frequentano dating online dice di essere stato molestato dalle persone che ha incontrato attraverso questi siti o le app di appuntamenti online. Ad oggi solo OkCupid ha reso pubblico il suo algoritmo di Matching e ci sono state molte critiche sulla parametrizzazione dello stesso.

Cosa emerge?

Dall’analisi dei dati che ogni tanto emergono da questi software e da questi siti sappiamo, secondo le Data Science, che limitare il pool di potenziali contatti non aumenta il tasso di successo; che i siti presentano i loro membri con dati non specificati, il che non è diverso dall’incontrare estranei in un bar; per i siti, non è possibile sapere in che modo le persone interagiscono realmente offline; che gli algoritmi non possono conoscere o prevedere problemi psicologici seri dei loro utenti.

Inoltre alcuni ricercatori indicano che le persone sono attratte da altri quando si rendono conto di essere identiche a loro, ma tale scoperta non è rilevante per i siti di incontri che utilizzano algoritmi di corrispondenza. Infatti le 2 persone non sono consapevoli della reciproca esistenza quando riempiono i questionari e quindi non si può riportare la somiglianza percepita.

Se questo riassume il ruolo svolto dai big data nei siti di incontri dobbiamo chiederci: è questa una via digitale a scoprire l’amore? siamo solo dati parametrizzabili? cosa è l’essenza dell’innamoramento e dell’amore? è questione di dati o di altro?

Forse alcuni misteri della natura umana non sono parametrizzabili perché sfuggono a un calcolo di convenienza. Tuttavia qualcuno potrebbe profilarci per ottenere dei guadagni dai nostri dati.