Dans un quotidien bercé d’IA, les humains doivent impérieusement apprendre à mieux se connaître
Une idée a germé dans ma réflexion sur notre vie commune avec les intelligences artificielles.
Beaucoup de choses sont dites régulièrement sur la peur que pourraient susciter ces intelligences artificielles, moins souvent sur la vigilance que nous devrions avoir à l’égard de leur utilisation. Que ce soient leurs algorithmes qui façonneraient nos vies, ou l’utilisation abusive des données personnelles qu’elles consomment pour se développer, là encore nous sommes de plus en plus alertés à longueur de journaux. Il s’écrit des articles et des rapports à la pelle sur le fait qu’elles prendraient nos boulots, et un peu moins sur l’occasion de nous libérer du travail tel que nous le connaissons et de vivre enfin des vies d’humains. Avant qu’elles ne développent un certain degré de conscience, on les soupçonne de faire preuve de créativité, quand encore aujourd’hui elles ne font principalement qu’imiter, ânonner, assembler des choses pré-existantes sans vraiment créer. Enfin, leurs capacités deviennent dans certains secteurs suffisamment bluffantes, par exemple en synthèse de la parole, pour qu’on puisse nourrir des doutes sur notre propre capacité à savoir les distinguer des êtres humains, un de ces quatre.
Il y a cependant quelque chose qui ne me semble pas avoir été assez identifié. Il s’agit du fait que, pour nous être utiles, les intelligences artificielles apprennent à nous connaître, et elles vont finir par nous connaître mieux que nous ne nous connaissons nous-même.
Je ne parle pas du fait qu’elles nous (sur)veillent pour nous être utiles.
Je ne parle pas du fait qu’elles ont (accès à) plus de connaissances que nous dans un champ donné.
Je ne parle pas de connaissance intérieure, de spiritualité.
Je parle du fait que des IA nous perçoivent mieux que nous ne savons le faire entre nous. Elles nous captent.
Par exemple, pour mieux échanger avec nous, elles vont être entraînées à détecter les très nombreux biais cognitifs qui émaillent nos raisonnements, nos propos. Mais en sommes-nous capables nous-même ? Loin de là.
Par exemple, pour définir notre état affectif, elles vont être entraînées à évaluer l’ensemble de notre langage corporel, et de nos micro expressions faciales. En sommes-nous tous capables nous-même ? Absolument pas.
Cela veut dire qu’elles pourraient être expertes en mécanismes humains, alors que nous-même ne le sommes pas, malgré des siècles d’études de ces sujets, et des années d’éducation qui devraient être employées à nous entraîner à mieux nous connaître et nous comprendre.
Sans même penser au fait qu’elles pourraient être alors entraînées à nous influencer, ou même à nous manipuler en rétroagissant sur nos comportements individuels et collectifs, c’est le simple fait qu’elles en sachent plus que nous sur notre manière d’être qui doit nous alerter. Profitons justement de leur apprentissage en cours pour apprendre également à mieux connaître et maîtriser ce que nous avons fini par ne plus voir, et qui, en quelque sorte, nous trahit comme être humain.
Cette réflexion m’est venue alors que je mettais quelques éléments de conclusion à une présentation effectuée le 6 juillet 2018 lors du 8e Forum des Usages Coopératifs, intitulée “(envisager) la coopération des intelligences”. Je la place ci-dessous. J’y défend entre autres l’idée que nous pouvons ne pas assister à une guerre des intelligences, et au contraire profiter du moment en cours pour coopérer aux mieux entre diverses intelligences (vivantes ou non). Je pense que c’est via une co-évolution que nous atteindrons le stade des IA dites générales. Et si l’on ne veut pas que le stade suivant soit la suprématie d’une super-intelligence, il y a une nécessité impérieuse à augmenter notre propre intelligence.
Cela passe notamment par ne pas en savoir moins que les IA sur nous-même…
