AI o “black box”?
un articolo del BMJ
Segnalo questo articolo del BMJ (1)
Dopo una breve introduzione in cui si spiega la differenza tra Predictions & Explanations gli autori descrivono le machine learning come “black box” dedite alla prediction. Rare sono le eccezioni a questo modello, anche se molti dispendiosi progetti hanno tentato di unificare le due cose.
Nell’articolo vengono citati come esempi di black box che funzionano gli algoritmi che riescono a distingure (dall’analisi delle immagini) i tumori cerebrali maligni da quelli benigni, Come esempi fallimentari quelli che cercano di individuare i casi ad alto rischio di mortalità nell’asma grave.
Con le preoccupazioni di mostrarsi “politicamente corretti” mi sembra però che il messaggio principale degli autori sia una opinione ben definita sul fatto che la strada di piegare l’efficacia della prediction al tentativo di renderla intellegibile non sia necessariamente l’unica da esplorare. Anche se le considerazioni finali contraddicono questa affermazione.
La computer science che può funzionare in medicina è davvero riconducibile solo a queste scatole nere? E la strada per “capire” è davvero così impervia?
Deep neural networks, for example, routinely contain millions of parameters, assigning weights and biases to thousands of nodes in an architecture so complex that no human could plausibly be expected to grasp the whole model’s internal mechanics.
Davvero il futuro del nostro rapporto con le macchine è questo? Se è così mi consola il fatto di non essere tra quelli che lo vedranno realizzare a pieno.
(1) Clinical applications of machine learning algorithms: beyond the black box BMJ 2019; 364 doi: https://doi.org/10.1136/bmj.l886
interazioni e chiarimenti anche sulla mia bacheca facebook
