La Vie 3.0 (deuxième partie)
Cette chronique littéraire s’adresse à mes étudiants, elle constitue la suite de celle parue le 25 janvier 2019 : “La Vie 3.0”, première partie (lire ici)
L’auteur de ce livre étonnant est professeur de physique à l’Institut de Technologie du Massachusetts (MIT) et président du Future of Life Institute (FLI), qui mène une réflexion sur l’impact sociétal de l’intelligence artificielle (A.I.). De quelle façon l’intelligence artificielle va-t-elle s’imposer dans notre société ? Avec mes élèves en cours de “creative writing”, nous écrivons notre propre science-fiction, “Genomics Asteroid”, dont la VF paraîtra avant la version anglaise (Kindle Amazon pour les deux versions). Ce livre de Max Tegmark nous fournit du savoir et des outils pour prendre part “au débat le plus important de notre époque” …
Pour participer au grand débat “humanité et A.I.” en direct (et en anglais), c’est par ici :
Comment une AI qui sera devenue intelligente sera-t-elle mieux acceptée par les humains l’ayant créée que les esclaves Noirs aux USA ? (Catherine Coste)
Trous noirs, mécanique quantique, ce ne sont pas des chose débattues tous les jours quand on parle d’A.I. Mais qu’on combine l’A.I. en évolution à la menace du réchauffement climatique, tout cela débouchant sur la “nécessité” d’aller dans l’espace … Or avant d’aller creuser ces notions ardues, encore faut-il chercher à comprendre leur utilité … Avant même d’ouvrir ce livre j’avais une question en tête, très loin des quasars et autres trous noirs (tout cela très loin de mon quotidien de e-michu fan de Big Bang Theory), à savoir : comment une AI qui sera devenue intelligente sera-t-elle mieux acceptée par les humains l’ayant créée que les esclaves Noirs aux USA ? Aura-t-elle un avenir différent ? Cette question se doit d’inclure l’acceptation, mais pas que. Aussi le fait de ne pas être exploitée, comme les esclaves. Une A.I. intelligente aura une adaptabilité, un libre-arbitre (capacité à déterminer ses propres buts, conscience de soi). “Je pense donc je suis”. L’A.I. aujourd’hui n’est qu’un super-outil, et même le deep learning va dans ce sens. Un super-outil, c’est la machine à vapeur, qui a plus de force qu’un cheval, un taureau, etc. Qui fait mieux que nous. Demandez à un cordon bleu si elle préfère un four tout neuf au sien, bien rodé, dont elle connaît toutes les nuances. La réponse sera :
“- Non, surtout pas de four neuf ! Je préfère le mien, je le connais.” Elle préfèrera le sien, qui a su s’adapter à elle, comme elle à lui. Comment ? Elle serait bien incapable de vous le dire, très exactement. Mais c’est une certitude. Eh bien c’est comparable au deep learning, qui est la capacité à apprendre sans qu’on donne des ordres précis. Prenez par exemple un couteau neuf, et sa capacité à s’affiner au contact ou au service d’un bon cuisinier. Il n’y a pas de manuel technique qui va expliquer comment cela se fait, mais cela se fait. A force d’avoir été aiguisé, le couteau du bon cuisinier est devenu plus fin, tranchant, apte à se faire aiguiser plus vite, etc. Les A.I. en mode “deep learning”, c’est pareil. Même phénomène que pour le couteau du cuisinier ou le four de notre cordon bleu. Elles s’améliorent sans que nous sachions comment, très exactement. On ne comprend pas bien la mécanique qu’il y a la-dedans. Quand on parle de l’explicabilité des algorithmes : aujourd’hui, il y a beaucoup d’algorithmes pour lesquels on ne sait pas donner d’explication. Or c’est une revendication des gens (la population en général) de pouvoir expliquer pourquoi et comment les algorithmes qui s’appliquent à eux arrivent à tel ou tel résultat ; dans la vie, on aime bien pouvoir expliquer les conséquences de telle ou telle action.
L’apparence de l’intelligence n’est pas l’intelligence. Dans le passé on a déjà fait des programmes qui donnaient l’impression de l’intelligence. Ils étaient programmés dans un seul but : celui, justement, de donner l’impression d’être intelligents. Nos A.I. actuels sont du même tonneau. Juste, l’impression qui est donnée est plus sophistiquée. Eliza et SHRDLU (par exemple) n’épateraient personne aujourd’hui. Pourtant, à l’époque, on trouvait ces programmes d’une intelligence ! …
Une A.I. avec de l’adaptabilité, oui. Une A.I. avec de la capacité à s’auto-déterminer (libre-arbitre), non. Les Noirs ont inventé le blues, on ne le leur avait pas demandé. (Catherine Coste)
Les Noirs ont inventé le blues, on ne le leur avait pas demandé. Alors, qu’est-ce qui attend une A.I. avec une vraie intelligence ? Si un jour cela arrive ? Car, on l’a vu avec le deep learning, cela n’en prend pas le chemin. On se construit des super-automates, des instruments affinés, même avec le “deep learning”. On ne s’achemine pas avec l’A.I. d’aujourd’hui vers l’adaptabilité et le libre-arbitre. Le deep learning, c’est aussi comparable à ce qu’apprend un chien quand on lui montre comment ouvrir la porte. Si on montre comment ouvrir la porte à un autre humain, on sait ce qu’on lui a appris. Mais votre chien, il a appris quoi ? Il n’y a pas assez d’indices pour valider l’acquis. Si désormais votre chien sait ouvrir une porte, est-ce qu’il sait que c’est lui qui ouvre la porte, et est-ce qu’il le fait pour ses besoins à lui ou pour faire plaisir à son maître ? Il n’y a pas suffisamment d’échanges pour valider l’acquis.
Alors, comment serait accueillie une A.I. intelligente dans le monde d’aujourd’hui ? Qu’est-ce qui l’attendrait ? Le bûcher sur lequel on a brûlé les sorcières ? Probable. L’esclavage, avec le déni de toute légitimité ? Encore plus probable. Les Noirs américains ont été remis au rang de machine (on a nié leur intelligence, on n’a conservé que leur utilité en tant que machine). Un cheval aurait été plus fort qu’un esclave, mais on avait besoin d’une intelligence pour avoir de l’adaptabilité, pour le travail dans les champs de coton. Cependant, on a pu nier tous les aspects d’intelligence qui ne servaient pas à la tâche sur lesdits champs de coton. De l’intelligence des esclaves, on ne voulait que la moitié : l’adaptabilité, la souplesse, la capacité à résoudre des choses sur le terrain. Mais on a refusé le libre-arbitre. Or dans l’intelligence humaine, les deux vont de pair : l’adaptabilité et le libre-arbitre. Quand on aura une vraie A.I. intelligente il y aura donc les deux aspects présents chez elle : l’adaptabilité et le libre-arbitre. Or l’histoire de l’esclavage a montré que l’adaptabilité est une qualité recherchée, et le libre-arbitre quelque chose qui n’a JAMAIS été accepté.
Quel destin attend l’A.I. intelligente parmi les humains ? Le destin des Juifs pendant la Deuxième Guerre mondiale ? Ou celui des sorcières finissant sur un bûcher au Moyen-âge ? Ou l’esclavage comme les Noirs aux USA ? Ou la crise d’adolescence, qui finira par passer ? On accepte les ados en crise car, après tout, on a été “comme eux”. C’est la chair de notre chair. Comment ne pas l’accepter ? Donc, pour répondre de manière synthétique à la question : dans le pire des cas, ce sera le bûcher. Ou le sort des Juifs dans les camps de concentration en 39–45. Plus probablement, une A.I. intelligente sera réduite en esclavage, comme dans “La Case de l’Oncle Tom” (célèbre fiction ayant pour cadre l’esclavage des Noirs dans les champs de coton aux USA). Pour qu’une A.I. intelligente connaisse le destin d’un ado en crise, révolté par rapport à sa famille et/ou à la société, il faudrait vraiment que les choses se passent très, très bien chez les humains. Ce serait de loin le meilleur cas de figure, le Nirvana pour ainsi dire. Hélas, ce Nirvana est peu probable …
Vous voyez qu’avant même d’ouvrir le livre “La Vie 3.0”, j’avais déjà pas mal de questions en tête concernant les A.I. et leur destinée — choses déjà débattues en cours de “creative writing” avec mes élèves … Après tout, nous écrivons notre propre science-fiction, il est donc nécessaire de parler de ces choses au préalable, ou chemin faisant. Nous construisons un monde complexe, avec des personnages riches et attachants, du moins nous nous y employons de notre mieux.
“Au chapitre 5, j’ai évoqué ces gens qui préfèrent dénier toute conscience aux robots afin de s’épargner une culpabilité de propriétaire d’esclave” (livre cité, page 340).
“D’un autre côté, ils pourraient préférer l’inverse s’ils téléchargeaient leur esprit pour le libérer de ses limites biologiques : après tout, à quoi bon télécharger son esprit dans le corps d’un robot qui parle et agit comme vous s’il n’est qu’un zombie inconscient, c’est-à-dire ne ressent rien ? De votre point de vue subjectif, ne serait-ce pas l’équivalent d’un suicide, même si vos amis ne se sont pas rendu compte que votre expérience subjective est morte ?” ((livre cité, page 340).
Il suffit de pouvoir penser pour exister. Le philosophe n’a pas dit : “Je bouge donc je suis”. Il suffit de pouvoir penser, et non d’être incarné dans un corps pour pouvoir déterminer ses propres buts, avoir une conscience de soi.
Trous noirs, mécanique quantique, ce ne sont pas là des chose qui font partie de notre quotidien quand on parle d’A.I. Mais qu’on combine l’A.I. en évolution à la menace du réchauffement climatique, tout cela débouchant sur la “nécessité” d’aller dans l’espace … Voilà qui nous conduit à des aspects de géopolitique fort intéressants pour les écrivains de science-fiction que nous sommes …
Saviez-vous qu’il suffirait de capter les rayons solaires sur une zone de moins de 0,5% du désert saharien pour satisfaire tous nos besoins actuels en énergie ? (livre mentionné, p. 246).
“Pourquoi se contenter de l’énergie solaire qui atteint la Terre et laisser le reste s’échapper inutilement dans le vide de l’espace ? Pourquoi ne pas, tout simplement, capter toute l’énergie émanant du soleil et l’utiliser pour vivre ?”
Comment tirer le meilleur parti de nos ressources ? Dans les supermarchés se vendent des dizaines de milliers d’articles. Mais la vie future qui aura atteint les limites technologiques aura essentiellement besoin d’une seule ressource fondamentale (livre cité p. 246) : “ce que nous nommons la matière baryonique, autrement dit, tout ce qui est fait d’atomes ou de leurs constituants (les quarks et les électrons). Quelle que soit la forme sous laquelle cette matière se présente, les techniques évoluées pourront la réorganiser pour en faire les substances ou les objets souhaités, y compris des centrales énergétiques, des ordinateurs et des formes de vies supérieures.” Avez-vous entendu parler des sphères de Dyson ?
“On doit s’attendre à ce que , quelques milliers d’années après être entrée dans l’ère de son développement industriel, toute espèce intelligente occupe une biosphère artificielle entourant complètement son étoile.”
J’avoue que je suis un peu tombée de l’armoire en lisant cela (livre cité, p. 247–248), et je ne dois pas être la seule … En 1960, ce scientifique rebelle émit l’idée de remodeler Jupiter en une biosphère, sous la forme d’une coquille sphérique entourant le soleil, dans laquelle nos descendants pourraient s’épanouir, disposant d’une biomasse cent milliards de fois plus grande et d’une quantité d’énergie mille milliards de fois plus importante que ce que l’humanité utilise aujourd’hui.” Voilà qui relèguerait les chocs pétroliers à l’ère de la pré-histoire …
A mon avis, la matière de ce livre est si riche et si méconnue du grand public qu’il faudrait un M.O.O.C. (cours massivement ouvert en ligne). Tous les citoyens ne s’intéressent pas à la science-fiction, mais le débat sociétal sur l’A.I. nous concerne tous …
La sphère de Dyson, késako ?
“Une façon rudimentaire de construire une sphère de Dyson partielle consisterait à mettre un anneau habité en orbite circulaire autour du Soleil. Pour entourer complètement le Soleil, il serait possible d’ajouter des anneaux avec différents axes de rotation autour du Soleil, à des distances légèrement différentes pour éviter les collusions. Ces anneaux à déplacement rapide ne pourraient pas être liés les uns aux autres, ce qui compliquerait les questions de transport et de communication. Pour contourner ce problème, il serait possible de construire plutôt une sphère de Dyson d’un seul tenant et stationnaire où l’attraction gravitationnelle en direction du Soleil serait équilibrée par la pression vers l’extérieur du rayonnement solaire (…) La sphère pourrait être construite peu à peu en ajoutant des statites (STATionary staellITES) : des satellites stationnaires qui compenseraient l’attraction solaire par la pression exercée par le rayonnement plutôt qu’en utilisant des forces centrifuges. Ces deux forces décroissent en fonction du carré de la distance au Soleil : s’il est possible que leur combinaison produise un équilibre à une certaine distance du Soleil, la même situation pourrait donc s’obtenir en toute commodité à n’importe quelle autre distance, nous laissant ainsi la liberté de nous installer n’importe où dans le système solaire. Les statites devraient être faites de feuilles extrêmement légères — de 0,77 gramme par mètre carré, soit environ 100 fois moins que du papier, ce qui n’est pas vraiment un obstacle. Par exemple, une feuille de graphène (une couche unique d’atomes de carbone formant des motifs hexagonaux ressemblant à un grillage) a une masse mille fois plus petite encore. Si la sphère de Dyson est construite davantage pour refléter que pour absorber l’essentiel de la lumière solaire, l’intensité de la lumière qui rebondirait partout à l’intérieur s’accroîtrait considérablement, augmentant encore la pression de rayonnement et la masse pouvant être supportée dans la sphère. De nombreuses étoiles ont une luminosité un millier de fois et même un million de fois plus grande que celle de notre Soleil et sont donc capables de supporter des sphères stationnaires de Dyson plus lourdes.(…) Pour durer longtemps, il faudrait qu’une sphère de Dyson soit dynamique et intelligente, ajustant avec précision sa position et sa forme en réponse aux perturbations, et, à l’occasion, ouvrir de larges brèches pour laisser astéroïdes et comètes inopportuns passer au-travers sans dommages. Ou alors, un système de détection-déviation pourrait servir à manoeuvrer de tels intrus, éventuellement en les disloquant pour en réutiliser la matière.” La variante d’une telle sphère en orbite n’aurait pratiquement aucune gravité (environ dix-mille fois plus faible que celle sur Terre), on ne disposerait pas de champ magnétique (à moins d’en construire un) pour nous protéger des dangereuses particules en provenance du Soleil. On pourrait donc envisager un habitat beaucoup plus simple …
Une alternative à la sphère de Dyson ?
“(…) un habitat cylindrique et qui supporte une gravité artificielle, protège des rayons cosmiques, offre un cycle jour-nuit de 24 heures, permet une atmosphère et des écosystèmes semblables à ceux de la Terre. De tels habitats pourraient être en rotation libre à l’intérieur d’une sphère de Dyson, ou des versions modifiées pourraient être rattachées à l’extérieur.” (livre cité, p. 249)
Vitesse de la lumière
“Einstein nous a enseigné que si nous pouvions convertir la masse en énergie avec un rendement de 100%, alors une masse m nous fournirait une quantité d’énergie E donnée par la fameuse formule E = mc², où c est la vitesse de la lumière. Comme c est énorme, une très petite masse peut fournir une quantité d’énergie monstrueuse.” (livre cité, p. 249)
Rendement dans la conversion de la masse en énergie utile par rapport à la limite théorique E = mc²
Certes, malheureusement, on ne peut pas nourrir des trous noirs et attendre leur évaporation, quant à en accélérer le processus, cela ferait considérablement tomber le rendement …
Des technologies avancées peuvent extraire considérablement plus d’énergie de la matière que ce que nous obtenons en la digérant ou en la brûlant. 40.000 litres de pétrole sont équivalents à 19 g. d’uranium (la taille d’un poids chiche). 15 cm³ d’uranium seraient l’équivalent d’un volume 10 fois plus petit d’hydrogène au coeur du Soleil, ou d’un volume encore 10 fois plus petit d’hydrogène pour un sphalerateur ou un quasar (une sorte d’étoile, comme les pulsars). Quant aux effets quantiques de la gravité, ils restent à découvrir …
“Une vie intelligente du futur devrait être capable de construire ce que j’appelle un sphalerateur : un générateur d’énergie qui agirait comme un moteur diesel sous stéroïdes.” Un moteur un milliard de fois plus efficace qu’un moteur diesel, mais fonctionnant comme ce dernier !
“Autre avantage : inutile de faire les difficiles sur ce qu’on y brûlerait — n’importe quoi ferait l’affaire du moment que ce serait fait de quarks : autrement dit, cela fonctionnerait avec toute la matière ordinaire.” (livre cité p. 259–260) Plus je lis ce livre, plus j’essaie d’imaginer comment on pourrait acquérir des ressources en “colonisant” notre cosmos …
“(…) même si nous nous sommes focalisés dans ce livre sur l’avenir de l’intelligence, l’avenir de la conscience est encore plus important, dans la mesure où c’est ce qui donne du sens.
© Pour les passages cités — Copyright : Dunod, mai 2018 (dépôt légal), pour la traduction française.
