A travers le miroir : comment l’intelligence artificielle interroge notre humanité

Idée aussi attractive qu’effrayante, la possibilité d’interagir avec les défunts a largement nourri la création littéraire et cinématographique, ainsi que les poches de nombreux charlatans. Car une telle perspective relève bien évidemment de l’impossible. Et pourtant…

En novembre 2015, Eugenia Kuyda, jeune entrepreneuse russe installée à San Francisco, a perdu son meilleur ami, Roman Mazurenko, dans un accident de la circulation à Moscou. Eugenia Kuyda est la co-fondatrice de Luka, une start-up spécialisée dans l’intelligence artificielle, proposant un chatbot capable de converser avec les utilisateurs pour leur recommander des restaurants. Après plusieurs mois de deuil, la jeune femme a décidé d’utiliser les ressources de son entreprise pour créer un type de bot différent. Un bot qui lui permettrait de communiquer une dernière fois avec son ami…

Roman Mazurenko et Eugenia Kuyda © Eugenia Kuyda

Un mémorial virtuel

Après avoir rassemblé les milliers de messages que Roman lui avait envoyés depuis le début de leur amitié, et éliminé les plus intimes, Eugenia Kuyda les a insérés dans le réseau de neurones artificiels bâti par Luka. Elle a ainsi, avec l’aide de son équipe, créé un agent conversationnel doté de la personnalité de Roman Mazurenko. « Roman, voici ton mémorial virtuel. », lui a-t-elle déclaré, entamant ainsi une longue conversation où se mêlent interrogations existentielles, souvenirs partagés et récits du quotidien.

L’initiative, initialement relatée par le medium américain The Verge, a été bien accueillie par les proches du jeune homme. Tous s’accordent sur un point : l’illusion est bluffante. Comme le montrent les captures d’écran des discussions échangées entre Eugenia Kuyda et le double-virtuel de Roman Mazurenko, diffusées dans l’article de The Verge, on jurerait assister à une conversation entre deux êtres humains. Selon les proches du jeune homme, son double virtuel possède en outre les mêmes tics de langage, le même humour, et les réflexions philosophiques qu’il exprime pourraient provenir de la bouche de Roman.

Black Mirror

L’idée a germé dans l’esprit d’Eugenia Kuyda après qu’elle a visionné le premier épisode de la seconde saison de la série dystopique Black Mirror. Intitulé Be right back (« Bientôt de retour »), il relate l’histoire d’une jeune femme qui, dévastée par la mort de son fiancé dans un accident de voiture, s’inscrit à un service utilisant l’ensemble des données du défunt (SMS, comptes sur les réseaux sociaux…) pour créer un double virtuel de celui-ci. Elle peut alors continuer de lui parler, d’abord par messages, puis par téléphone, avant de souscrire à une offre plus onéreuse qui permet d’insérer la personnalité de feu son fiancé dans un androïd anthropomorphique lui ressemblant trait pour trait.

Rise of the robots

Lors de sa sortie, en 2013, cet épisode relevait largement de la fiction. Aujourd’hui, pour une part, du moins, il est devenu réalité. Au cours des dernières années, l’intelligence artificielle a acquis la capacité de battre l’homme dans un jeu télévisé (victoire de Watson à Jeopardy! en 2011), aux échecs (victoire de Deep Blue contre Gary Kasparov en 1997) et au jeu de Go (victoire d’AlphaGo contre Lee Seedol en 2016). Elle est aussi devenue capable de conduire une voiture, de planifier un rendez-vous professionnel et de prendre en charge un patient.

Désormais, elle peut aussi offrir un véritable partenaire de conversation, et même adopter la personnalité d’un être humain avec un réalisme stupéfiant. Il n’est pas absurde d’imaginer un futur proche où chaque individu posséderait son double virtuel, avec lequel ses proches pourraient continuer de communiquer après sa mort. Eugenia Kuyda travaille d’ailleurs sur une nouvelle start-up, Replika, qui proposera exactement ce type de service.

Her, de Spike Jonze.

Quelle sera la prochaine étape ? Dans le film Her, de Spike Jonze, le personnage principal, joué par Joaquin Phoenix, tombe progressivement amoureux de son système d’exploitation, dépourvu de corps mais doté d’une personnalité propre (et de la jolie voix de Scarlett Johansson). Verrons-nous, dans un futur proche, des relations sentimentales se développer entre humains et machines ? Les robots seront-ils bientôt des hommes comme les autres ? Assistera-t-on prochainement, comme l’imagine La Tribune dans un article prospectif, au premier mariage entre un humain et un robot ? L’avocat Alain Bensoussan plaide d’ores et déjà pour la mise en place d’un droit des robots. Deviendront-ils des personnalités juridiques à part entière, susceptibles de gagner ou perdre un procès ?

L’illusion de la chambre chinoise

Pas si vite. Si les récents progrès en termes d’intelligence artificielle sont spectaculaires, nous nous laissons souvent abuser par ce terme, qui revêt un caractère trompeur. Car intelligents, Deep Blue, Watson, AlphaGo, et le bot conçu par Eugenia Kuyda ne le sont pas. Du moins, pas au sens d’une intelligence humaine, complexe, multi-tâche, dotée d’une personnalité, d’émotions, d’une conscience de soi, d’une certaine indépendance, d’une capacité de création et d’initiative, autant de caractéristiques qui font la spécificité du cerveau humain.

Ainsi, s’il fournit une illusion saisissante, le double virtuel de Roman Mazurenko n’est en rien une réplique informatique de la personnalité de celui-ci, encore moins un transfert de son esprit sur un ordinateur. Le bot se contente de piocher parmi les mots et phrases composés par le jeune homme de son vivant pour offrir des réponses appropriées à ses correspondants. Et s’il est désormais capable de composer ses propres phrases en s’inspirant de la base de données existantes (modèle génératif), alors qu’il se contentait au début de piocher parmi les messages envoyés par Roman Mazurenko de son vivant (modèle sélectif), on reste dans le cadre d’un programme purement conversationnel, ultra spécialisé et n’ayant lui-même aucune compréhension du langage humain. Comme le démontre le philosophe John Searle dans l’expérience de la chambre chinoise, l’intelligence artificielle ne fait que simuler une conscience, et ne possède aucun des authentiques états mentaux (conscience de soi, intentionnalité) qui demeurent l’apanage de l’homme.

Adolfo Bioy Casares

S’il fournit l’illusion de l’humanité, le bot conçu par Eugenia Kuyda n’est en réalité pas plus humain que l’hologramme dont le narrateur tombe amoureux dans L’invention de Morel, de l’écrivain argentin Adolfo Bioy Casares, ou que l’automate Olympia, qui séduit le jeune Nathanaël dans le conte L’homme au sable d’Ernst Theodor Amadeus Hoffman.

Tout comme AlphaGo ou Watson, le bot conçu par Eugenia Kuyoda offre un exemple impressionnant, dont les performances nous semblent si extraordinaires que nous lui prêtons, à tort, un visage humain. Comme l’explique Jerry Kaplan, ingénieur informatique, entrepreneur et futuriste américain : « Jadis, il existait des calculateurs, des individus très intelligents dont la profession consistait à effectuer des opérations mathématiques très complexes. Aujourd’hui, n’importe quelle calculatrice achetée en supermarché est capable d’effectuer ces calculs. Est-ce pour autant que la calculatrice est dotée d’une intelligence comparable à celle d’un être humain ? L’intelligence n’est pas une propriété quantifiable, c’est une dimension complexe, dépendant d’un grand nombre de facteurs. Nous découvrons simplement que de nombreux problèmes ne nécessitent pas de disposer d’une intelligence humaine pour être résolus. »

Une bouteille à la mer

Il n’empêche, l’émouvante histoire d’Eugenia Kuyda introduit malgré tout une rupture ontologique majeure, dans la mesure où l’intelligence artificielle n’est plus utilisée à des fins purement utilitaristes, efficientes et pragmatiques, comme lorsque Watson assiste les médecins dans la pose d’un diagnostic ou que le logiciel de Tesla permet à ses voitures de se conduire toutes seules.

Il ne s’agit pas non plus d’un défi visant à mobiliser une équipe d’ingénieurs en vue de pousser un peu plus loin les capacités de nos ordinateurs et d’intéresser le public aux progrès de l’intelligence artificielle, comme dans la performance de Watson à Jepardy!, de Deep Blue contre Kasparov et d’AlphaGo contre Lee Seedol. Ici, l’intelligence est utilisée à des fins humaines, non quantifiables, afin d’aider les proches d’un défunt à surmonter sa perte. Comme l’affirme Eugenia Kuyda à The Verge, il s’agit « d’envoyer un message au paradis. Pour moi, il est plus question d’envoyer une bouteille à la mer que de recevoir une réponse. ».

Certes, iNago effectue depuis les années 1990 des recherches en intelligence artificielle dans le but de construire un robot humanoïde pour servir de compagnon de discussion, et le japonais Hiroshi Ishiguro s’est fixé depuis plusieurs années l’objectif de construire des robots les plus humains possibles (quitte à flirter avec l’Uncanney valley, ce sentiment dérangeant qu’inspirent les robots aux caractéristiques trop humaines). La volonté de développer l’intelligence artificielle dans des buts autres que purement économiques n’est donc pas nouvelle.

Mais ici, il s’agit également de créer l’illusion d’une conversation entretenue avec un être humain ayant véritablement existé. Ici, la technologie flirt avec le mythe de l’homme-machine, elle esquisse un futur où les machines pourraient bien faire partie intégrante de notre identité, et même nous offrir un nouveau réceptacle physique après le dépérissement de notre enveloppe charnelle. Un changement radical qui pose de nombreuses questions sur la nature humaine. Qu’est ce qui me définit ? Est-ce mon corps, mon expérience, mon ressenti, ma manière de m’exprimer, ou un peu de tout cela à la fois ? Sans parler des questions juridiques que posent la création d’un double virtuel d’une personne après sa mort…

Vers la Singularité ?

Eugenia Kuyda nous permet de comprendre que l’intelligence artificielle n’est pas une simple phase supplémentaire dans le lent processus d’automatisation qui a toujours accompagné l’histoire de l’humanité, mais aussi un miroir où se reflète notre conception de l’homme, un miroir déformant qui pourrait bien, à l’avenir, nous renvoyer un reflet bien différent.

C’est aussi l’une des brèches ouvertes par la théorie de la Singularité, défendue notamment par le chercheur américain Ray Kurzweil, grande figure du mouvement transhumaniste. Selon cette théorie, nous serions sur le point d’atteindre un moment historique où les machines développeront un niveau d’intelligence supérieur à l’intelligence humaine, et seront dès lors capables d’apprendre par elles-mêmes, à une vitesse exponentielle, atteignant un niveau de connaissance tellement supérieur au nôtre que nous serions parfaitement incapables de les comprendre.

Selon Ray Kurzweil, qui prévoit l’avènement de la Singularité pour 2029, il est probable qu’à terme les humains fusionnent ainsi avec les machines pour accroître leurs capacités. « En 2029, les ordinateurs auront l’intelligence humaine, avec ses émotions, son humour, la capacité d’aimer, le tout associé à leur fabuleuse capacité de calcul. Nous fusionnerons avec cette technologie. Mon ordinateur de poche fait déjà partie de moi, c’est une extension de moi-même. Les ordinateurs seront en nous, au sens propre, ils seront intégrés à nos corps car ils auront la taille d’une cellule sanguine, ils nous garderont en bonne santé, nous rendront plus intelligents, nous connecteront à l’Internet, à des mondes virtuels. » prédit-il.

L’immortalité à portée de clic

Selon lui, il serait même possible d’atteindre l’immortalité en transférant sa conscience dans un ordinateur, méthode qui permettrait également de ramener les morts à la vie. Le scientifique a ainsi rassemblé un maximum de données sur son père (photographies, lettres, disques, films, et même factures d’électricité !), mort il y a plus de cinquante ans, dans l’espoir de constituer une base de données suffisamment fournie pour lui donner une seconde existence virtuelle en 2029…

Ray Kurzweil n’a rien d’un doux dingue : de nombreuses prévisions qu’il a effectuées par le passé, dans ses différents ouvrages, se sont révélées exactes (même si d’autres se sont avérées fausses), comme l’émergence de voitures autonomes ou d’intelligences artificielles conversationnelles. Dès son adolescence, il a mis au point des logiciels de composition musicale, de reconnaissance vocale et de conversion de texte en parole pour les aveugles. Google l’a récemment embauché pour travailler à l’élaboration d’un bot qui, selon Kurzweil, sera capable d’adopter la personnalité de son propriétaire.

Pour lui, nous sommes sur le point d’atteindre un niveau de connaissances techniques suffisant pour concevoir un cerveau humain artificiel : « Je ne parle pas seulement d’intelligence logique, mais aussi d’intelligence émotionnelle, du fait d’être drôle, de comprendre une blague, d’être attirant, aimant, de comprendre les émotions humaines. C’est la chose la plus complexe à réaliser. C’est ce qui sépare les ordinateurs des humains. Je crois que ce fossé sera franchi en 2029.

Ray Kurzweil

[…] Je suis persuadé que nous sommes tout près de réunir les conditions requises en termes de logiciel. L’une d’entre elles consiste à comprendre comment le cerveau humain fonctionne, et nous faisons des progrès exponentiels dans ce domaine. Nous pouvons désormais voir à l’intérieur d’un cerveau vivant et observer chaque connexion inter-neuronale se former et s’exécuter en temps réel. Nous pouvons voir comment un cerveau crée des pensées et comment les pensées façonnent le cerveau. Ces recherches dévoilent comment les mécanismes du néocortex fonctionnent, ce qui constitue la base de nos réflexions. Cela nous fournit des techniques inspirées par la biologie que nous testons sur nos ordinateurs.

[…] En utilisant ces modèles inspirés par la biologie, ainsi que toutes les recherches effectuées depuis des décennies autour de l’intelligence artificielle, le tout combiné à du matériel informatique de plus en plus performant, nous atteindrons un niveau d’intelligence humaine d’ici deux décennies. » affirmait-il à Wired en 2013. Plus rien n’empêcherait alors de ramener un défunt à la vie en construisant une copie virtuelle de sa personnalité, nourrie de l’ensemble des données le concernant. L’immortalité à portée de clic, en somme.

« La mémoire n’est pas une mémoire d”ordinateur »

Sauf que pour de nombreux scientifiques, la Singularité relève bien plus de la science fiction que de la science pure et dure. L’idée que nous pourrions un jour télécharger notre personnalité sur un logiciel informatique, aussi simplement que l’on branche un disque dur sur une unité centrale, ou même que nous puissions concevoir une intelligence artificielle capable de reproduire notre personnalité de manière convaincante, est, selon eux, totalement fantaisiste.

« L’idée que nous puissions transférer notre conscience dans une machine, aussi séduisante soit-elle, ne me semble pas sérieuse. » affirme ainsi Jerry Kaplan. « Cela revient à adopter la croyance religieuse que l’âme soit immortelle et puisse passer d’un corps à l’autre. Rien ne nous permet d’affirmer que cela soit possible. » A supposer que ce procédé soit effectué durant notre vivant, qu’adviendrait-il du corps dont nous extrayons notre conscience ? Que se passe-t-il dans notre esprit durant la phase de transition où nous passons d’un corps à l’autre ? Suis-je toujours la même personne après avoir quitté mon corps ? Autant de questions insolubles qui démontrent selon lui l’absurdité de cette idée.

Un point de vue partagé par le philosophe Francis Wolff, pour qui le projet transhumaniste établit un parallèle très contestable entre le fonctionnement de la pensée humaine et celle d’un ordinateur. Selon lui, la pensée n’est pas une entité distincte du corps, que l’on pourrait plugger à volonté sur un autre support : « Pour que cela soit possible, il faudrait que mon identité se réduise à une somme, plus ou moins extensible, de représentations. Or mon identité ne tient-elle pas d’abord au fait que je vis et que je pense en première personne et dans un échange constant avec mon environnement et avec mes semblables ? Alors on peut toujours dire que cette dimension a, elle aussi, des conditions matérielles et qu’on pourra les intégrer dans la machine. Mais c’est laisser entendre que l’esprit est une boîte et que l’on peut y mettre ou en retirer les représentations à notre gré. Comme avec une clé USB dans un ordinateur. Or, la mémoire n’est pas une mémoire d’ordinateur. Elle se vit en première personne, elle est mobilisée hic et nunc, dans les relations que je tisse avec autrui. Elle n’est pas en moi. C’est une relation contextualisée avec le monde que je noue en fonction de ce que je vis au présent. Transportez ma mémoire dans un autre environnement, elle semble avoir le même contenu, mais n’étant plus la mienne, elle n’est plus la même. » explique-t-il dans les pages de Philosophie Magazine.

Toute tentative de ressusciter un défunt en créant son double virtuel tomberait alors dans le même écueil que celui dépeint dans l’épisode de Black Mirror. Elle nous mettrait face à un être ressemblant suffisamment au défunt pour nous empêcher de l’oublier et faire notre deuil, mais dont les imperfections souligneraient en permanence l’absence d’humanité et rendraient la situation dérangeante, voire insupportable.

L’avenir nous dira si les rêves les plus fous de Kurzweil finiront par devenir réalité, ou si, comme le pensent Francis Wolff et Jerry Kaplan, homme et machine resteront deux entités bien distinctes. Une chose demeure certaine : l’intelligence artificielle n’a pas fini de faire couler de l’encre.