Il Machine Learning è divertente! — parte 8: Come imbrogliare una rete neurale

Uno sguardo all’hacking del futuro!

Questo articolo è l’ultimo di una lunga serie, leggi le altre parti qui: parte 1, parte 2, parte 3, parte 4, parte 5, parte 6 e parte 7.

Fin dal primo momento in cui i programmatori hanno scritto programmi informatici, gli hacker hanno cercato modi per trarre vantaggio dalle falle in questi programmi.

Gli hacker maligni sfruttano anche le più piccole bug di un programma pur di entrare in sistemi, rubare dati e in generale causare danni.

Very Hacker al 100%

Ma i sistemi alimentati da algoritmi di “deep learning” dovrebbero essere sicuri dalle interferenze umane, giusto? Come è possibile che un hacker sia in grado di ingannare una rete neurale addestrata su terabyte di dati?

In realtà, anche i Neural Networks più avanzati possono essere facilmente ingannati. Con alcuni stratagemmi, puoi forzarli a prevedere qualsiasi risultato tu voglia:

Ho modificato quest’immagine per ingannare il Neural Network e fare in modo che la scambiasse per un tostapane

Quindi, prima di lanciare un nuovo prodotto basato su Deep Neural Networks, sarà meglio imparare come questi possano essere facilmente ingannati e…