Sei certo che ti serve una IA?
Sei certo che ti serve una IA? La domanda per molti è oziosa e quando è posta in contesti commerciali tende a complicare notevolmente lo svolgersi delle trattative e la definizione del perimetro di un progetto. In sostanza, questa è la tipica domanda che non andrebbe posta dal momento che le risposte che genera sono, spesso, peggiori della domanda stessa.
Le motivazioni alla base di un investimento in IA sono tante quante sono le persone che ho incontrato nelle mie esperienze professionali. In questo articolo espongo le ragioni che, a mio parere, dovrebbero essere poste alla base di un investimento in sistemi di IA e le modalità con le quali tale investimento andrebbe condotto.
Premessa — Prima di cominciare è bene fare una premessa: le mie riflessioni nascono dall’osservazione maturata durante la mia partecipazione a progetti di adozione dei sistemi IA a supporto dei processi decisionali e sono condivise con la consapevolezza della loro opinabilità e confutabilità. Per capire cosa sia un sistema a supporto delle decisioni qui trovi un articolo che ho scritto a riguardo ma in questo articolo le mie riflessioni partono dalla descrizione del concetto di processo decisionale.
Incertezza e rischio — I processi decisionali si distinguono in processi razionali e processi irrazionali. I processi decisionali irrazionali sono fortemente influenzati dall’incertezza laddove i processi decisionali razionali sono caratterizzati da una componente naturale di rischio. Sul tema ho scritto un articolo che trovi qui, nel quale riassumo quei concetti che ritengo fondamentali. Rischio ed incertezza sono due facce di una stessa moneta la cui cifra è rappresentata dalla capacità di riconoscere le variabili rilevanti nel processo decisionale ed attribuire loro un peso attraverso metodi statistici. Per capirci meglio, facciamo un esempio. Immaginiamo di essere ad una corsa di cavalli e di voler scegliere il cavallo su cui scommettere. Se la nostra scelta si basa sull’analisi dei dati rappresentativi del contesto e dei cavalli in gara, la scelta presenterà una componente di rischio e la decisione presa sarà di tipo razionale. Se la nostra scelta è, invece, fatta senza alcuna informazione sul contesto e sui cavalli, potremo solo scegliere a caso rendendo il nostro processo decisionale in un processo irrazionale. Per quanto mi riguarda, entrambi i processi conducono ad una scelta, spesso si passa da un processo all’altro senza soluzione di continuità ed entrambi sono caratterizzati da una componente di aleatorietà che può essere declinata in incertezza e rischio solo in ragione delle nostre ipotesi e di ciò che assumiamo come noto.
Un mondo di persone razionali che spesso agiscono in modo irrazionale — Le decisioni sono alla base del nostro agire quotidiano e nessuno decide lanciando i dadi. Tuttavia, il contesto nel quale prendiamo le nostre decisioni presenta sempre un certo grado di complessità che gestiamo attraverso assunzioni e semplificazioni volte a contenere il numero di dati da gestire. Ma è proprio nel perimetro delle assunzioni che si manifesta la natura di rischio o di incertezza assunta dalla aleatorietà presente nel nostro processo decisionale. Tale natura è, infatti, legata a doppio filo con la nostra capacità di stabilire quali sono le variabili che influenzano in modo rilevante il processo decisionale. Per questa ragione, non mi stupisco più quando vedo persone razionali giungere ad una decisione irrazionale dopo che si è valutato la rilevanza e l’impatto di un numero di variabili tanto ampio da rendere il modello di rappresentazione della realtà troppo complesso da essere gestito.
Oracoli moderni ed antiche debolezze — Di Fronte alla complessità del mondo le IA assumono lo stesso ruolo degli oracoli di 2.500 anni fa offrendo ai moderni interroganti risposte che, seppur chiare, sono spesso incomprensibili in termini di relazioni causali. Esattamente come accadeva con la Sibilla Cumana, anche ai nuovi oracoli non si chiedono le relazioni di causa-effetto che portano alla risposta perché, come le sibille di un tempo, l’elaborato statistico prodotto da queste intelligenze non può essere letto essendo il frutto di un processo di elaborazione troppo complesso. Un esempio ne è la “Mossa U37” con la quale Alphago portò i suoi sviluppatori ad affermare che l’algoritmo “non è più vincolato dai limiti della conoscenza umana”. Ciò mostra chiaramente la natura aliena di questo agente intelligente.
Quando ricorrere all’oracolo? — La scelta di affidare ad una IA le nostre decisioni, a mio parere, non dovrebbe dipendere dalla complessità del contesto nel quale va fatta una scelta ma dalla valutazione del costo che dobbiamo sostenere per prendere la nostra decisione. Se dovessi scegliere, oggi affiderei un processo decisionale ad una IA solo in ambiti nei quali il costo che dobbiamo sostenere per prendere una buona decisione è maggiore dei benefici che ricaviamo dalla decisione presa. Questo approccio è squisitamente economico e fa riferimento all’analisi costi-benefici (cost-benefit analysis) che è un approccio sistematico alla valutazione delle scelte da porre in essere basato sulla misurazione e la comparazione di tutti i costi e i benefici diretti ed indiretti.
Oracoli da usarsi con cautela — Sono molto cauto nella decisione di adottare un oracolo IA essendo la nostra natura particolarmente incline a delegare ad altri i processi di analisi sia per questioni relative alla fatica che tali analisi impongono sia perché il nostro cervello ha dei limiti nella gestione dei modelli decisionali. Inoltre, tali sistemi, oltre ad essere imperscrutabili, sono basati su relazioni statistiche spesso costruite attraverso l’analisi di dati legati da relazioni deboli che rendono impossibile un’analisi della decisione presa su base causale. Sul caso si considerino le attività di inferenza psicometrica svolte dalla società Cambridge Analityca ed ampiamente documentate.
Conclusione — L’adozione di un sistema di supporto alle decisioni basato su IA richiede una notevole capacità di presidio del contesto in cui la decisione suggerita deve essere applicata. Un utente poco esperto potrebbe essere esposto a fenomeni di condizionamento della realtà attuati attraverso “camere di risonanti” che, anche a causa del divario di potere esistente tra utente ed IA, porterebbe ad una progressiva perdita di controllo dei criteri di valutazione di una decisione e della umana percezione della realtà. Inoltre esiste una questione etica dietro il processo di condizionamento che è possibile subire da un algoritmo di supporto alle decisioni e che attuarsi attraverso forme di mocro-sollecitazione, note come spintarelle (nudges), verso una determinata direzione volte a condizionare la visione della realtà percepita dagli utenti.
