Guardare dentro il cervello di un’intelligenza artificiale ci aiuterà a confidare nelle sue decisioni

Un nuovo strumento per testare le AI ci aiuterà a renderle più sicure ed efficaci.

Visionario: Chris Grimm, Brown University di Providence, Rhode Island (US)

Il Problema: Le intelligenze artificiali sono in grado di fornire soluzioni ai problemi più complessi. Possono imparare dalle loro analisi per prendere decisioni in millesimi di secondo e per questo motivo si pensa di utilizzare le AI per eseguire svariate mansioni. Ad esempio, le auto saranno totalmente pilotate da un’intelligenza artificiale, senza il bisogno di un intervento umano.
Da quando sono stati inventati algoritmi intelligenti, non si è stati in grado di spiegare il perché una macchina possa prendere una determinata decisione, e nemmeno come lo faccia. Nei test di riconoscimento immagini, ad esempio, alcuni algoritmi hanno visto un tordo o uno scimpanzé nel rumore bianco, ossia un’immagine distorta dove niente era riconoscibile.
Cosa ha indotto gli algoritmi a commettere un simile errore?
Quali parti di un’immagine vengono prese in considerazione per poter prendere una decisione?
Proprio perché le AI verranno utilizzate per guidare macchine automatizzate, è importante capire dove e perché questi algoritmi sbagliano, in maniera tale da allenarli nel migliore dei modi.

L’Innovazione: Chris Grimm ha utilizzato due diverse intelligenze artificiali per il suo test. Una, la probanda, tentava di riconoscere un’immagine, mentre la seconda sceglieva e cancellava alcune parti dell’immagine. In questo modo, si riusciva a capire quali parti di un’immagine erano necessarie alla prima per riconoscerne il contenuto. Grimm ha scoperto che l’intelligenza artificiale scompone l’immagine in diversi oggetti per prendere una decisione. Inoltre, non viene considerata l’immagine nel suo totale, ma sono solo diversi elementi chiave ad essere messi in corrispondenza. Ad esempio, nell’immagine di un cavallo, l’AI si focalizza dapprima sulle zampe e poi cerca il punto in cui ci può trovarsi la testa. Se rileva le zampe di un cervo invece, l’AI cerca specificamente delle corna, a conferma della sua tesi. L’AI ha quindi ignorato molte parti delle immagine che non pensava fossero rilevanti per la categorizzazione.
Grimm ha inoltre lasciato assistere un’AI ad una partita di Pong, scoprendo che l’intelligenza artificiale si concentrava principalmente sulle due barrette su cui rimbalza la pallina. Non appena una delle due barrette si è mossa, l’AI pensava di aver notato il movimento della palla, calcolando una traiettoria di movimento totalmente sbagliata.

Lo strumento creato da Grimm, quindi aiuterà a testare le intelligenze artificiali, in maniera da renderle sempre più sicure, capendo quali dati sono per loro i più rilevanti. Riusciranno a prendere le giuste decisioni, nel modo più corretto, riuscendo a guidare automobili, ma anche a rilevare la presenza di cellule cancerogene all’interno del corpo umano.

Rielaborato in Italiano. Articolo originale: New Scientist

VISIONARI è un network di imprenditori, scienziati, artisti, scrittori e changemakers che pensano e agiscono al di fuori degli schemi.
Puoi fare domanda per entrare qui: https://bit.ly/visionari-entra