IA : HAL est encore loin
HAL 9000 — Heuristically programmed ALgorithmic computer
order to protect and continue its programmed directives, and to conceal its
malfunction from Earth. “ [Wikipedia]
Tout le monde a vu 2001, Odyssée de l’espace. Si vous ne l’avez pas vu, je vous envie : vous allez pouvoir découvrir cette folle histoire de monolithes noirs, de vaisseaux presque immobiles dans le Grand Rien, de plans séquences interminables d’un mec qui court à l’envers, et de l’ambiance follement froide et glauque de l’ensemble. Un chef d’œuvre.
Le héros principal du film est ce monolithe noir, bizarre, muet. Tombe ou
artefact. Super jeu d’acteur, belle patience. Pas très expressif, seul regret.
Le second héros de ce fil est un ordinateur, HAL 9000. HAL, pour Heuristically programmed ALgorithmic computer. HAL n’a l’air de rien, à première vue. Il met la pâtée aux échecs à un des humains du film, mais c’est la moindre des choses. Dans les années 1960, les scientifiques étaient globalement optimistes sur les progrès (forcément rapides) de l’intelligence artificielle, ce que représente HAL. Il sait parler, comprendre quand on lui répond, reconnaître les expressions humaines, lire sur les lèvres, apprécier l’art etc. Bref, il sait faire tout ce qu’on attendrait d’une IA forte — forte car capable de manipuler des concepts. On a mis une forme d’intelligence en boite.
Preuve ultime qu’il est suffisamment intelligent : HAL est un sacré connard. Comme un vulgaire être humain, il cherche à rester vivant — en ligne, dans son cas — et malgré d’évidents soucis de fonctionnement de son troisième co-processeur mathématique [*], il se résout à mentir allègrement à l’équipage avant de les zigouiller tranquillement. Pas sympa, la calculette améliorée.
Ce film est de la pure science fiction. HAL est l’hypothèse haute de la recherche en sciences cognitives, version 1960. De la littérature, donc.
Nous en sommes beaucoup moins loin. Ce qu’on appelle intelligence artificielle aujourd’hui ne serait que le lointain ancêtre d’un hypothétique HAL. Son comportement n’est pas qu’une suite d’actions apprises et enchaînées avec plus ou moins de bonheur [**]. HAL est capable d’improviser, d’échafauder une théorie, de cacher : il montre tous les signes d’une conscience de lui-même. C’est une différence majeure, un gouffre conceptuel qui sépare le monde réel de la science fiction. Sans être un expert du sujet, je crois comprendre que la définition même de la conscience est un problème encore ouvert en biologie et en neuroscience, tant et si bien que l’utilisation d’un seul mot pour regrouper un ensemble de phénomènes à la fois câblés et émergents est hasardeuse.
Malgré les affirmations péremptoires de certains gourous à la Kurzweil, et ce
jusqu’à preuve du contraire, ce phénomène de conscience reste tout à fait
inaccessible à la programmation informatique. C’est d’ailleurs probablement ce qui différencie l’homme, le singe, les chats d’une calculette sous stéroïdes.
[*] ou quelque chose d’approchant
[**] On reconnaîtra une description plutôt rapide de l’apprentissage automatique, que certains appellent DeepLearning.
A propos de la proximité des acronymes HAL — IBM … Cf la wikipedia anglaise [www] :
…about once a week some character spots the fact that HAL is one letter ahead of IBM, and promptly assumes that Stanley and I were taking a crack at the estimable institution … As it happened, IBM had given us a good deal of help, so we were quite embarrassed by this, and would have changed the name had we spotted the coincidence. — Arthur C. Clarke
J’ai donc envie de croire qu’ils ne l’ont pas fait exprès. Rappelons que le film et le roman 2001, à la fois complémentaires et légèrement différents, datent de 1968 et qu’ils sont inspirés pour partie d’une nouvelle de Arthur C. Clarke (The Sentinel, 1948), qui ne fait pas intervenir HAL.
