5 problèmes concrets de sécurité en Intelligence Artificielle

Quels sont les impacts de l’Intelligence Artificielle sur la société ?

Six scientifiques de Google Brain, Stanford, Berkeley et Open AI viennent d’identifier 5 problèmes concrets de sécurité de l’AI. Ils proviennent :

• d’une mauvaise fonction objectif (« éviter les effets secondaires » et « éviter de récompenser le piratage»),
• d’une fonction objectif trop coûteuse à évaluer fréquemment (« surveillance scalable »),
• ou d’un comportement indésirable au cours du processus d’apprentissage (« exploration sûre » et « déplacement dans la distribution »).

Un article à lire pour mieux anticiper et réduire les risques de l’intelligence artificielle avancée.

“Concrete Problems in AI Safety” https://arxiv.org/abs/1606.06565

Auteurs - Google Brain : Dario Amodei, Chris Olah, Dan Mané. Stanford : Jacob Steinhardt. UCB : Paul Christiano. OpenAI : John Schulman.