Pourquoi Elon Musk nous met-il en garde contre l’intelligence artificielle ?

L’intelligence artificielle sans PhD

Lilian Bich
Oct 11, 2017 · 8 min read

On en entend parler de plus en plus. Certaines personnalités comme Mark Zuckerberg soutiennent qu’elle va changer le monde en bien, d’autres comme Elon Musk sont plus méfiantes.

Pour ceux qui ne connaitraient pas Elon Musk, il s’agit du PDG de Tesla, les voitures électriques qui se conduisent toutes seules et de SpaceX, la première société privé à envoyer des fusée dans l’espace et qui devrait proposer un Paris New-York en 30min d’ici 10ans.

Que l’on le veuille ou non, on est tous concernés par ce qui est en train de se passer. Mais il faut avouer que pour comprendre de quoi on parle il faut s’accrocher.

D’un côté, les films nous offrent une image scénarisée de l’intelligence artificiel et éloignée de ce qui risque de se produire. Elle ne nous permet donc ni de comprendre les bouleversements à venir, ni les fondements des craintes éprouvées par Elon Musk et d’autres à ce sujet.

De l’autre côté du spectre, la presse spécialisée aborde l’intelligence artificielle de manière trop complexe pour que le commun des mortels puisse l’appréhender facilement.

Pas besoin d’avoir fait MIT pour comprendre dans les grandes lignes ce qu’est l’intelligence artificielle et sortir des clichés véhiculés par le cinéma !

C’est par ici ☟

A. Définition

L’intelligence artificielle peut se décrire comme étant le comportement d’un robot, d’une machine ou d’un ordinateur considéré comme intelligent par un observateur humain. Cette définition a le mérite d’être simple et claire, cependant elle regroupe 2 niveaux d’intelligence artificielle bien distincts.

1. L’intelligence artificielle programmée par un humain

La personne qui s’est fait battre pour la première fois au jeu de dames par un ordinateur a sans doute trouvé que ce dernier avait fait preuve d’intelligence. En revanche pour l’ingénieur qui a programmé la machine et défini durant de longue heure LE coup à jouer dans chaque configuration, le comportement de l’ordinateur n‘est pas très intelligent, il s’est contenté de suivre les instructions enregistrées.

Quoi qu’il en soit d’après la définition, il s’agit bien d’une intelligence artificielle: la première forme d’intelligence artificielle crée par l’homme.

2. Réseaux de neurones et machine learning

Voici les 2 mots à la mode, ils représentent la deuxième forme d’intelligence artificielle, celle-ci n’est pas programmée par un humain mais repose sur l’utilisation de données enregistrées.

Si on reprend l’exemple du jeu de dames, il n’y a plus besoin qu’un ingénieur définisse dans chaque position le meilleur mouvement à faire. A condition d’avoir une base de données dans laquelle est enregistré un nombre suffisant de parties jouées, il suffit de demander à la machine de reproduire les coups qui ont menés les joueurs des parties enregistrées vers la victoire. Cette 2ème forme d’intelligence artificielle est très puissante, elle n’est pas limitée par la capacité de l’homme à définir ce que doit faire la machine dans chaque cas mais par l’existence des données pour “entraîner” la machine. Imaginez que pour créer une voiture autonome on demande à une bande d’ingénieurs de programmer le comportement que doit avoir la voiture en fonction de chaque situation, cela est impossible. A la place Tesla a équipé les voitures de plein de capteurs et a laissé ses utilisateur “entraîner” le système.

Pour info, c’est ce “système” qui porte le nom de réseaux de neurones et le mot machine learning vient du fait que le système apprend de son entraînement.

B. De quoi Elon Musk a peur ?

L’exemple de la voiture qui se conduit toute seule appartient à une catégorie d’IA dite intelligence artificielle spécifique : un comportement qui peut être décrit pas un observateur extérieur comme intelligent mais qui se cantonne à l’exécution d’une tâche spécifique. Ce n’est bien sûr pas elle qui va mettre fin à l’humanité. L’intelligence qui fait peur à Elon Musk est l’Intelligence Artificielle Générale, une intelligence capable de faire n’importe quelle action au moins aussi bien que l’homme. On peut donc la voir comme la somme de toutes les intelligences artificielles spécifiques possibles.

Le problèmes avec l’Intelligence Artificielle Générale, c’est qu’arrivé à ce point là, le niveau d’intelligence de la machine ne va pas s’arrêter. Et comme la machine possède quelque attributs bien meilleurs que l’homme comme la mémoire ou la capacité à traiter de l’information rapidement, le rythme de progression est certain de s’accroitre. Résultat seulement quelques jours après avoir atteint ce niveau, le niveau d’intelligence sera tel que plus aucun homme ne sera capable de comprendre tout se qui se passe. On parle de Super Intelligence Artificielle.

Pour comprendre la différence d’intelligence quand nous serons au niveau de la Super Intelligence artificielle, le plus simple est la métaphore du chien : En se baladant dans une ville un chien est capable de comprendre qu’il est accompagné de son maître, qu’il est entouré de maisons mais il est incapable de concevoir que ce sont des hommes comme son maitre qui ont créé ces maisons…

C. Pourquoi Elon Musk a peur ?

C’est vrai ça ! Une super intelligence pourrait être le salut de l’humanité. Fini les accidents de voiture, plus aucune erreur humaine au bloc opératoire, etc. On pourrait même imaginer que l’on puisse séquencer notre ADN à la demande et avoir des nano-robots pilotés par une intelligence artificielle qui viendrait rectifier les mutations cancéreuses…

C’est avec cette perspective en tête que Mark Zuckerberg considère comme irresponsables les propos d’Elon Musk qui pourraient ralentir l’avènement de L’IA.

Du côté d’Elon Musk, la volonté n’est pas de ralentir l’arrivée de cette super intelligence mais de s’assurer que nous sommes préparés aux 3 principaux risques potentiels :

1. Cette intelligence devient consciente

Attention on n’est pas dans une scénario à la terminator. Il s’agit juste d’une conscience de supériorité un peu comme l’homme avec les autres espèces. Quand on voit quelle place l’homme donne aux autres espèces lorsqu’elles se mettent en travers d’objectifs économiques, on ne peut que croiser les doigts pour que la conscience écologique de l’IA soit un peu plus développée que la nôtre…

Bien que les arguments qui s’opposent à cette éventualité reposent plus sur un péché d’orgueil “Rien de peut être équivalent à l’homme” que sur un raisonnement scientifique, il n’est pas non plus prouvé scientifiquement que ce soit possible.

2. Cette intelligence est possédée par une personne (ou un groupe) mal intentionnée

Imaginons qu’il existe effectivement quelque chose qui empêche l’IA d’arriver au niveau de conscience. Cela veut dire que c’est l’homme qui définira son objectif. Il faut donc espérer que toute les personnes en mesure d’opérer cette IA soit bien intentionnées. Et il faut aussi espérer que toutes les grandes puissances du monde en soit convaincues. Le président Poutine a dit dernièrement : “Celui qui dominera cette discipline dominera le monde” Que pensez-vous qu’il ferait s’il apprenait qu’une autre puissance était sut le point d’atteindre un niveau de Super Intelligence ?

3. Cette intelligence est incontrôlable (par l’homme)

Disons qu’on s’en sorte bien, qu’avant l’arrivée de la super IA on ait réussi à créer une sorte d’autorité politique mondiale permettant de s’assurer qu’aucune personne mal intentionnée ne puisse “contrôler” l’IA. Reste encore à savoir si on est capable de l’opérer sans que son intelligence nous dépasse. Il va falloir être très précautionneux dans la description des objectifs qu’on lui donne. Par exemple si on lui dit de réduire la pollution sans plus de détails, combien de temps va-t-il se passer avant que l’IA réalise que pour faire parfaitement son travail, le plus urgent est d’exterminer l’espèce humaine… Surement 1 ou 2 secondes… Quelques secondes plus tard nous pourrions tous avoir un micro organisme piloté par L’IA nous injectant une dose mortelle de poison…

Le moindre défaut dans l’élaboration du cahier des charges (qui sera fait par un humain et non une intelligence artificielle) et cela pourrait être la fin de l’humanité (d’habitude on entend cette phrase dans le contexte d’une salle de cinéma mais attention rien de surnaturelle ou de scénarisé dans cette article). Rappelez-vous que cette intelligence est 100 000 000 plus intelligente que nous et que la seconde d’après elle est 100 000 000 000 000 000 000 plus intelligente que nous. Nous savons aujourd’hui dessiner la courbe de l’intelligence, l’homme se trouve tout en haut mais nous ne savons pas jusqu’où cette courbe peut aller…


Nous ne sommes pas en capacité d’imaginer à quoi cette IA ressemblera. À ce titre elle est plus proche d’une forme d’intelligence Alien que d’un homme. Et de même que nous ne savons pas combien de temps il nous faudrait pour nous protéger d’une attaque d’Alien, nous ne pouvons pas estimer correctement combien de temps il nous faudra pour nous préparer à l’arrivée de cette “super intelligence”. Les experts en intelligence artificielles estiment qu’elle arrivera entre 2045 et 2100 de façon quasi certaine, nous ferions donc bien de commencer tout de suite à nous préparer.

Cette vision peut paraître pessimiste, elle repose néanmoins sur une logique qui est difficilement contestable. Et si Elon Musk sait surement que ses effets d’annonces profitent à ses sociétés sa mise en garde reste légitime.

En tout cas le débat est ouvert, des arguments existent des deux cotés et Elon Musk a choisi son camp. Et vous qu’en pensez vous ? Il parait difficile de se prononcer tant le sujet est vaste, complexe et encore peu exploré. Mais gardez en tête qu’il ne s’agit pas d’un effet de mode, l’IA ne sera que plus présente dans notre société à l’avenir. Alors continuez d’apprendre sur le sujet et partager ce qui vous semble important avec vos proches ! En tout cas moi c’est ce que je fais ;)


J’espère que cette article vous a plus, si le sujet vous intéresse n’hésitez pas a me pinguer pour un café 0603811798. Vous pouvez aussi laisser votre email pour être prévenus des prochains articles.

A venir :


    Lilian Bich

    Written by

    Entrepreneur. Passionate by new technologies impact in our daily life, I believe in teamwork, diversity, “Yes and” communication and individual responsability.

    Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
    Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
    Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade