Apprendre à vivre avec les Intelligences Artificielles
Quelques pistes pour répondre à la question “Mais ça sera comment la vie avec des IA ?”
Avant-propos
Ce texte est le document compagnon d’une présentation express de 15mn faite le 7 octobre 2016 à l’occasion de la troisième journée “Perspectives et Défis de l’IA” sur le thème “Impact Social de l’IA”, organisée par l’Association Française pour l’Intelligence Artificielle (AFIA) avec le soutien de la Fondation Télécom. Présentation combinée du huitième cahier de veille sur les Intelligences Artificielles (PDF, 28 pages) de la Fondation Télécom que j’ai coordonné et rédigé, et de la question qui me motive personnellement du “(apprendre à) Vivre avec les (systèmes d’)Intelligences Artificielles”.
60 ans après l’invention du terme Intelligence Artificielle, nous nous questionnons sur le Vivre à l’ère des IA
Le 28 septembre 2016, dans une année riche d’annonces pour le domaine des (systèmes d’)Intelligences Artificielles (IA), Amazon, Facebook, Google, Microsoft, et IBM créent Partnership on AI, un consortium industriel ouvert dont l’objectif principal est d’établir les bonnes pratiques en matière d’IA et d’expliquer au large public de quoi il retourne. Il est probablement temps, car le public a été nourri des fantasmes cinématographiques d’IA le plus souvent malveillantes pour l’humanité, et rejoint sur cette pente en 2014 par quelques capitaines d’industrie américains et scientifiques de renom ayant exprimé publiquement la crainte qu’une IA supérieure non bienveillante envers l’humanité puisse émerger dans les années à venir. Certains de ces entrepreneurs se sont d’ailleurs regroupés pour créer OpenAI, doté d’un fonds de un milliard de dollars UA, dans le but de promouvoir une IA à visage humain. Et début 2015, une dizaine de chercheurs ont signé une lettre ouverte appelant leurs collègues à se concentrer, certes, sur des travaux pour des IA plus performantes, mais également à la poursuite d’IA les plus bénéfiques possibles pour la Société.
Comme il y a quelques années avec les Big Data, le sujet de l’Intelligence Artificielle fait de plus en plus parler de lui (il est hype, quoi). Il est cependant d’une toute autre nature, car les IA englobent les autres sujets du numérique. Pas de réels traitements des données massives, en effet, sans algorithmes “subtils”, car ce qu’on attend de ces traitements, c’est pouvoir comprendre la complexité de ces données, c’est pouvoir effectuer des classements, de la reconnaissance, du nommage, c’est pouvoir se projeter, faire du prédictif, détecter des motifs rares… Pas de déploiement massif des objets connectés si ceux-ci n’embarquent pas un minimum d’“intelligence”, pour échanger entre eux de manière pertinente les informations qu’ils collectent, pour apprendre des comportements de leurs utilisateurs et se rendre compréhensibles d’eux. Pas d’infrastructures de véhicules autonomes sans algorithmes capables de s’adapter au monde imprévisible de la route, de rendre service aux passagers en fonction de leurs contraintes ou de la météo. Et on pourrait multiplier les exemples.
Take X, Add AI : de la même manière que le monde a été électrifié à partir de 1870 (il reste cependant encore un milliard de personnes qui n’ont pas accès à l’électricité), le monde est en passe d’être “cognitisé” et cela risque d’aller beaucoup plus rapidement cette fois.
Voilà plus de 20 ans que je m’intéresse aux Intelligences Artificielles, avec une thèse débutée en 92 que j’ai commencée à raconter ailleurs sur ce Medium. Approche hybride entre cognitivisme et connexionnisme, mon attention a rapidement été attirée à l’époque par un de mes rapporteurs de thèse, Paul Bourgine, sur les principes d’énaction inspirés notamment par Francisco Varela, et le concept d’autopoïèse co-inventé avec Humberto Maturana. Autant dire que très rapidement, et déjà influencé par certains récits de science fiction, j’ai considéré qu’à terme -nous n’y sommes pas encore- les IA seraient des créations vivantes, un règne supplémentaire dans cette partie de l’univers. C’est important pour comprendre d’où je parle.
« Un système autopoïétique est organisé comme un réseau de processus de production de composants qui (a) régénèrent continuellement par leurs transformations et leurs interactions le réseau qui les a produits, et qui (b) constituent le système en tant qu’unité concrète dans l’espace où il existe, en spécifiant le domaine topologique où il se réalise comme réseau. Il s’ensuit qu’une machine autopoïétique engendre et spécifie continuellement sa propre organisation. Elle accomplit ce processus incessant de remplacement de ses composants, parce qu’elle est continuellement soumise à des perturbations externes, et constamment forcée de compenser ces perturbations. Ainsi, une machine autopoïétique est un système à relations stables dont l’invariant fondamental est sa propre organisation (le réseau de relations qui la définit). » [Autonomie et Connaissance]
C’est avec ceci en tête que les questions “comment vivre avec les IA ?”, “peut-on vivre avec les IA ?”, “les IA vont-elles nous remplacer ?” me semblent infiniment intéressantes par tout ce qu’elles entraînent. En réalité, plus on se penche sur la question de la création d’intelligences faites de main d’homme (et, plus tard, faites de mains d’IA), plus on s’intéresse aux cognitions non humaines, à la part de l’intelligence qui ne réside pas dans le cerveau, à la dynamique des intelligences collectives, à l’augmentation possible de nos capacités cognitives par des processus artificiels, à la résolution possible des grands problèmes contemporains grâce à nos artefacts intelligents…
“Mais alors, quelle va être la nature d’un monde dans lequel on vivra avec des intelligences artificielles autour de nous ?”
C’est la question qu’on me pose le plus souvent aujourd’hui, autour de moi les gens qui savent que les IA sont mon domaine de prédilection, et à titre professionnel pour celles et ceux qui me font intervenir dans des ateliers. Et comme souvent, la réponse ne peut pas se faire en quelques phrases. Car qu’est-ce que c’est que “vivre”, finalement ?
Dans le langage commun, qu’est-ce que cela recouvre ? Il y a les expressions “Il faut vivre pour manger, il faut manger pour vivre. Travailler pour vivre.” Il y a le “vivre ensemble”, le “vivre de peu”, “vivre au quotidien”, “vivre avec ça”, “vivre sa vie”… Il y a l’époque à laquelle on vit, il y a la notion de vie privée, il y a la vie de couple, il y a l’art de vivre… Toutes ces expressions sont autant d’angles différents pour aborder la question du “Vivre à l’ère des intelligences artificielles”.
“Vivre avec les IA ?”… la première chose qui semble venir à l’esprit, c’est vivre avec des robots. L’imaginaire visuel en est plein, à tel point que les banques d’images proposent toutes sortes de relations avec des robots, qui ont souvent la même apparence froide et blanche. Ce n’est d’ailleurs pas facile d’illustrer le thème des IA sans passer par les robots. Quelle image allez vous choisir pour expliquer que les journaux pourraient bien être rédigés bientôt par des armées (ah oui, il y a aussi un petit côté martial) de robots ? Bingo : des mains de robots sur un clavier. Donnant ainsi encore plus de corps (!) à l’idée du grand remplacement des humains par des êtres mécaniques froids et insensibles (sauf dans nos lits).
Les IA ne sont pas que les IA mécaniques, incarnées dans notre environnement familier, mais également (et encore aujourd’hui : surtout) les IA algorithmiques, enfouies dans l’environnement de nos réseaux et nos systèmes d’information. Elles y sont encore plus intimement liées à nos vies, sans qu’on le comprenne très bien, et pouvant même, comme je l’explique ailleurs, décider de nos destins.
Prenons l’exemple des assistants de reconnaissance vocale sur nos mobiles (et bientôt sur nos objets du quotidien). Ils fonctionnent en nous écoutant, et pour nous rendre service, nous apporter une réponse au bon moment, il semble logique qu’ils écoutent en permanence. Et si leur logique de reconnaissance vocale n’est pas enfouie dans nos mobiles (ou notre télévision, ou notre minuscule objet connecté qui ne peut pas avoir “toute cette intelligence” embarquée, ou le doudou causant de nos enfants), elle l’est, tout ou partie, dans le fameux cloud, c’est-à-dire ailleurs, c’est-à-dire hors du contrôle de votre sphère privée. Autrement dit, sauf si nous arrivons à les concevoir différemment, par exemple en ne faisant des calculs de ce type que sur des données chiffrées absolument de bout en bout, ces IA, et celles et ceux qui les proposent, savent potentiellement tout de nos vies. Et peut-être celle des autres (ou la vôtre, si les autres, c’est les autres… vous suivez ?) dès lors que vous laissez votre compagnon intelligent actif en leur présence.
Vous acceptez de vivre avec ça ?
“Nous simplifier la vie…”, jusqu’à aller nous la simplifier un peu trop ? Par exemple en l’uniformisant ? En appauvrissant les langues ? En gommant les différences de culture ? Tout cela dans un souci d’efficacité et de performance ? Ces questions restent ouvertes, et doivent guider le design de ces IA.
IA qui sont tout de même de bons compagnons pour nous faire explorer de nouvelles manières de penser, provoquant des effet Wow! chez celles et ceux qui les fréquentent. C’est ce que disent par exemple les joueurs qui ont été battus par AlphaGo : les coups inattendus de l’IA leur ont ouvert des perspectives nouvelles, des développements du jeu que les humains n’avaient jamais aperçus avant, les croyant ou pensant impossibles. C’est d’ailleurs en cela que certaines IA sont “créatives”, car elles proposent des solutions jamais vues auparavant (tandis que la créativité en musique ou en littérature par imitation et compilation de séquences humaines collectées auparavant est d’un degré moindre et à la portée (!) d’un être humain).
Compagnons à titre individuel (il se pourrait bien qu’on les amène de la maison au travail, et que l’on invente le BYOAI “Bring Your Own AI”, à l’instar du BYOD), les IA seront aussi les compagnons de l’Humanité dans son évolution, comme nous l’avions expliqué l’année passée lors de nos travaux sur l’Humain Augmenté. Les divers chemins vers la singularité visent non seulement à l’évolution des humains, mais également à la recherche d’une certaine immortalité. Les IA peuvent ainsi servir à diminuer les causes de la mort, par exemple sur les routes avec les véhicules autonomes. Elles peuvent aider à trouver de nouvelles thérapies contre les maladies. Elles peuvent servir à apaiser les relations entre humains et éviter les violences (axe évolutions sociales). Sur ce dernier point, notamment, les IA devront aider les humains à se débarrasser des biais cognitifs qui polluent leurs discours, aussi bien écrits qu’oraux, en les détectant, les expliquant, en fournissant d’autres mécaniques rhétoriques… Les applications de fact checking, les outils de datavisualisation sur des corpus de données complexes en sont sans doute les prémices.
En nous assistant, en nous augmentant, en nous corrigeant, en effectuant des tâches répétitives, usantes, à notre place, les IA peuvent non pas nous aliéner mais nous libérer, et nous permettre de vivre pleinement nos vies. En nous laissant mener des activités d’humains (et non plus du travail), en nous laissant les emplois où le contact humain, les capacités relationnelles, l’expérience du vécu, la possibilité de se “mettre à la place de” (l’empathie), ne peuvent pas, encore pour un temps, être des compétences artificielles.
Comment accompagner cette véritable transition cognitive ?
Le maître mot aujourd’hui est la transition numérique, nécessité pour entrer pleinement dans l’ère numérique, comme des transitions ont été nécessaires auparavant pour entrer dans l’ère de la machine à vapeur puis l’ère de l’électricité. Mais il se pourrait que cette transition numérique (la maîtrise des de l’information, des données, des réseaux d’échange, des nouvelles formes et modèles d’affaire…) ne soit qu’une vague qui en cache une plus importante : la transition cognitive.
Et comme pour les objets manufacturés avec des imprimantes 3D et les objets connectés, que l’on apprend à découvrir et maîtriser dans des FabLabs, ou comme les données que l’on apprend à manipuler et maîtriser dans des InfoLabs, et comme la démocratie à l’ère numérique et les CivicTech que l’on apprend à connaître dans des CivicHall, j’imagine de nouveaux tiers-lieux, des CogLabs, évolutions ou hybrides des précédents, dans lesquels on fréquenterait des robots, on testerait des algorithmes, on apprendrait à coder du DeepLearning, on se prêterait au jeu des Tests de Turing…
Il faut comprendre que les IA peuvent se tromper. Il faut comprendre qu’elles continueront à apprendre “après leur sortie d’usine”, et que nous en aurons “la responsabilité”. Il faut apprendre à leur apprendre à devenir grandes ! Plus que les types d’apprentissage (page 10 et 11 du cahier de veille) comme l’apprentissage supervisé, ou non supervisé, ou profond, ou prédictif, qui font la majorité des articles d’aujourd’hui, ce sont les formes d’apprentissage (page 12 op.cit.) qui doivent être connues et comprises. L’apprentissage par l’action, par observation / imitation, l’apprentissage co-actif… en étant bienveillant avec ces IA pour ne pas obtenir des IA misogynes, racistes, comme cela a été malheureusement le cas pour quelques bots conversationnels cette année. Il faut sans doute trouver un autre vocabulaire que “élever”, “éduquer”, et même “dresser des IA” comme on le lit parfois, pour mieux décrire ce “co-apprivoisement” entre les humains et leurs IA. J’ai travaillé là-dessus auparavant : après avoir vu émerger spontanément la démarche en tripode d’un robot hexapode pendant ma thèse, et frisé les 100% de reconnaissance des chiffres manuscrits à un système hybride (logique + réseaux de neurones sur une machine hautement parallèle) en lui apprenant l’écriture (il maîtrisait à peu près la lecture en sachant reconnaître près de 99% des chiffres présentés) par des lignes d’écritures comme à un enfant, j’avais écrit quelques principes que devrait suivre un “neuroticien” (terme proposé) pour mettre un système IA complexe (une IA forte) en situation d’apprentissage tout au long de sa conception, de son “enfance” (premiers stades d’apprentissage) et de sa vie. Tout ceci reste encore à inventer sur le terrain.
Les relations avec nos IA, incarnées ou non, seront de plus en plus fortes et ces dernières finalement considérées rapidement comme “des êtres vivants comme un autre”. Les enjeux et défis qui en découlent sont exposés pages 24 et 25 du cahier de veille : comment déléguer des tâches d’un humain vers une IA, ou réciproquement (les bots sont encore à l’heure actuelles des équipes mixtes humains/IA) ? comment faire comprendre nos normes et valeurs aux IA ? est-ce que les IA ne vont pas nous faire un nouvel effet Wow en découvrant et nous proposant des règles morales auxquelles nous n’avions pas pensé ? en cas de faute, d’erreur, qui portera la responsabilité entre l’IA, son concepteur et son utilisateur ? dans quel sens le droit (qui régit nos vies) va-t-il évoluer ?
Apprendre à vivre avec les IA nécessite de la bienveillance, une ouverture d’esprit, des lieux d’expérimentation et des outils conceptuels nouveaux. Alors que chacun s’empare du sujet, individus et collectifs, chercheurs et entrepreneurs, politiques et régulateurs, notre perception des IA va insensiblement se modifier dans les années à venir.
Et comme dans nos relations humaines, c’est sans doute apprendre à estimer quand faire ou non confiance à une IA qui nous permettra d’apprendre à vivre avec elles, et elles avec nous. Espérons que nous en serons collectivement capables.
