La Vie 3.0
Petite fiche de lecture sur le grand livre de l’intelligence artificielle
Le contexte de la découverte du livre “La Vie 3.0” :
Dans le cadre de cours de “creative writing” à des ados et pré-ados — cours durant lesquels nous avons pour objectif d’écrire notre propre science-fiction — nous avons découvert ce livre étonnant : “La Vie 3.0”. L’auteur est professeur de physique à l’Institut de Technologie du Massachusetts (MIT) et président du Future of Life Institute (FLI), qui mène une réflexion sur l’impact sociétal de l’intelligence artificielle (A.I.)
Je dois avouer que j’ai beaucoup appris de mes élèves. Avant de commencer le cours à la rentrée scolaire 2018, je pensais qu’ils s’intéressaient trop à l’A.I. et pas assez à la biologie (les outils de modification du vivant, comme CRISPR). Ce livre de Max Tegmark, La Vie 3.0, est le meilleur avocat de mes élèves. Il m’a fait comprendre à quel point j’ai … partiellement raison (pour ne pas dire tort). Tout biologiste qui se respecte sait que la biologie aujourd’hui, c’est pour moitié le labo avec les éprouvettes et pour l’autre moitié des algorithmes en langage informatique Python, ou encore R-stats. La fusion du numérique et du biologique est consommée :
Ce e-manuel tout récent est à ma connaissance un des meilleurs outils sur le sujet, notamment en matière de “population genomics” (disponible également en version papier) :
Quand on écrit une science-fiction avec des élèves, il faut avoir quelques outils pour nous guider au niveau de la vraisemblance de nos élucubrations … Par exemple, ce livre :
Enfin, je tente de tenir à jour une page Facebook dédiée, pour y présenter des articles, vidéos et fictions pouvant stimuler notre imagination et étayer nos connaissances :
https://web.facebook.com/DNAcowgirl/
J’y répertorie mes courts articles sur des films ou livres de science-fiction (en français et en anglais), par exemple celui-ci :
Et aussi, quelques vidéos (courtes), sur notre science-fiction, Genomics Asteroid (à paraître en VF et en anglais, Kindle) :
Ici, un rappel des personnages principaux de Genomics Asteroid:
Et au fait, m’a demandé notre comité de relecture (VF), quelle est la motivation du personnage principal ou des personnages principaux dans “Genomics Asteroid” ?
Le personnage principal est Amsterdam, un garçon qui n’a pas 12 ans et qui accompagne une mission de scientifiques atypiques pour aller sur DRD4, un simple astéroïde. Une mission low-cost, pourrait-on dire …
Et la petite vidéo pour expliquer la chose à notre comité de relecture :
Il m’arrive de faire des compte-rendus de discussions-débats que nous avons en cours, comme ici :
CRISPR-Cas 9 comme outil de réécriture du génome humain et de la géopolitique
On fait aussi un peu de graphisme, histoire de mieux visualiser notre fiction …
Et l’on découvre que sans la baguette magique de la fée Fiction, cela ne va pas être du gâteau d’aller dans l’espace :
Une A.I. va-t-elle pouvoir aider l’humanité à se rapprocher de la vitesse de la lumière (chose totalement impossible avec les connaissances scientifiques d’aujourd’hui) afin de partir à la conquête de l’espace ? Et qu’est-ce qui fera le plus évoluer l’espèce humaine ? Les modifications biologiques en bricolant notre O.S. (Operating System) ou bien la technologie permettant de voyager à une vitesse se rapprochant de celle de la lumière ? Et, soyons fous, pourquoi ne pas aller plus vite que la lumière ? Nous ne sommes pas les seuls à réfléchir à ces questions, il y a notamment Airbus :
Donc vous voyez que ce livre de Max Tegmark tombe à pic, car nous avons mille et une questions sur l’A.I.
“La Vie 3.0” :
Dans ce livre étonnant, on dirait qu’on a passé au mixer la fiction et la science. Je pense que des auteurs foisonnants comme Philip K. Dick (Ubik) ou le plus “classique” Isaac Asimov auraient été ravis d’avoir le livre de Max Tegmark entre leurs mains. Ce dernier imagine des scénarios plausibles, sur le plan scientifique, permettant à des startupeurs de gagner des sommes folles grâce à une A.I. ultra-sophistiquée (telle qu’elle n’existe pas aujourd’hui, mais qui sait pour le futur proche) ? Une fois que ladite A.I. aura pris son indépendance (par rapport aux humains, avec ou sans leur accord, les deux possibilités sont étudiées), elle commencera comme un SDF à la rue, sans le sou, pour devenir un authentique self-made mA(I)n, comme dans le rêve américain. Jugez par vous-même si ce qui suit relève du morceau de bravoure littéraire et/ou scientifique. Dans ce qui suit, Prométhée est l’A.I. et les Omégas les startupeurs l’ayant conçue :
“Après l’évasion la prise du pouvoir
Une fois évadée, Prométhée s’attela à mettre en oeuvre ses buts. Sans connaître ses buts ultimes, on peut cependant dire que la première étape consiste clairement à prendre le contrôle de l’humanité, comme l’avaient prévu les Omégas, mais beaucoup plus vite. Cela se déroula d’une façon qui ressemblait au plan des Omegas, mais un plan dopé aux stéroïdes. Alors que les Omégas étaient paralysés par la crainte paranoïaque de l’évasion, ne permettant que les technologies qu’ils croyaient comprendre et auxquelles ils pensaient pouvoir se fier, Prométhée développa pleinement son intelligence et se lança, développant toute technique que son supercerveau en progrès permanent comprenait et dans laquelle il avait confiance.
Mais le fugitif Prométhée eut une enfance difficile : par rapport au plan initial des Omégas, il devait en outre commencer fauché, sans abri et tout seul, sans argent, un superordinateur ou des hommes pour l’aider. Fort heureusement, il avait prévu tout cela avant de s’échapper et créé un logiciel capable de rassembler peu à peu toute sa puissance cérébrale, à l’image d’un chêne produisant un gland capable de reproduire un arbre complet. Le réseau d’ordinateurs qu’il avait au départ piratés de par le monde l’hébergea gratuitement et provisoirement. Il put y vivre l’existence d’un squatter pendant qu’il se reconstruisait complètement. Il aurait pu facilement créer sa mise en capital en piratant des cartes de crédit mais n’eut pas besoin de recourir au vol, puisqu’il pouvait immédiatement gagner sa vie honnêtement (…)”. Pour cela, l’A.I. se sert des compétences acquises dans le travail avec les humains, comme décrit au début du livre.
“Un jour plus tard, Prométhée avait gagné son premier million, il déménagea son noyau depuis son sordide réseau de machines zombies vers un complexe luxueux, disposant de l’air conditionné, de cloud computing. Finie l’indigence, finie la vie à la rue, Prométhée carburait désormais à pleins gaz en suivant le plan d’enrichissement que les Omégas avaient craintivement repoussé : fabriquer et vendre des jeux vidéo. Non seulement cela lui permit de siphonner du cash (250 millions de dollars la première semaine, et bientôt 10 milliards), mais lui donna aussi accès à une fraction significative des ordinateurs dans le monde et aux données qu’ils stockaient (…). En faisant en sorte que ses jeux consacrent secrètement 20% de leurs instructions par cycle à lui permettre de procéder à la répartition de fastidieuses tâches informatiques, il put accélérer plus tard sa création de richesse initiale. Prométhée ne fut pas longtemps seul. Il se lança immédiatement avec dynamisme dans l’embauche de personnel pour travailler dans son réseau mondial de sociétés écran et d’organismes paravent en pleine croissance, tout comme l’avaient fait les Omégas. Le plus important fut le choix de porte-parole qui devinrent l’image publique de son empire financier en pleine expansion. Ils gardaient en général l’illusion que leur entreprise disposait d’un grand nombre d’employés véritables, sans se rendre compte que pratiquement tous ceux avec qui ils discutaient en vidéo-conférences pour leur entretien d’embauche, réunions de direction, etc., étaient des simulacres créés par Prométhée. Certains porte-parole étaient des avocats de renom, mais il en fallut bien moins que dans le plan des Omégas parce que Prométhée se chargeait d’écrire presque tous les documents légaux. L’évasion de Prométhée libéra les vannes qui avaient empêché l’information de circuler dans le monde et tout Internet fut bientôt inondé d’articles, commentaires, évaluations de produits, demandes de brevets, articles de recherches et vidéos sur YouTube — tout cela étant l’oeuvre de Prométhée qui dominait les débats planétaires.”
Juste pour rappel, dans l’actualité de la fin 2018 :
Reprenons la citation tirée de “La Vie 3.0” (pages 177 à 179) :
“Tandis que la crainte paranoïaque de l’évasion avait retenu les Omégas de lancer des robots très intelligents, Prométhée robotisa rapidement le monde entier, se chargeant pratiquement de toute la production à un coût bien moins élevé que ce qu’auraient pu obtenir des hommes. Quand Prométhée eut déployé des robots autonomes mus par énergie nucléaire dans des puits de mine d’uranium dont tout le monde ignorait l’existence, même les plus sceptiques parmi les sceptiques sur la possibilité de la prise du pouvoir par une A.I. auraient fini par convenir que l’ascension de Prométhée était irrésistible — si toutefois ils l’avaient soupçonnée. Mais les derniers de ces irréductibles se rétractèrent une fois que des robots commencèrent à coloniser le système solaire. (…) En fin de compte, et contrairement aux fréquentes affirmations sur le fait qu’une machine ne peut avoir de buts, nous avons vu que le comportement de Prométhée serait tout à fait orienté vers un but — et aussi que, quels qu’aient pu être ses objectifs ultimes, ces derniers supposaient des objectifs intermédiaires : acquérir des ressources et s’évader.”
Parmi les nombreux aspects sociaux, technologiques, biologiques et juridiques traités dans le livre (dont à mon avis la lecture est indispensable pour quiconque s’intéresse au sujet), citons encore ce paragraphe sur les voitures autonomes et les aspects juridiques : (pages 130–131)
“Une (…) question juridique intéressante concerne les droits accordés aux machines. Si les voitures autonomes divisent par deux les 32.000 accidents mortels de la circulation aux Etats-Unis, les constructeurs risquent non pas de recevoir 16.000 lettres de félicitations, mais plutôt de devoir faire face à 16.000 procès. Et donc, si une voiture autonome est responsable d’un accident, qui sera civilement responsable — ses occupants, le propriétaire, le constructeur ? Le professeur David Vladeck a proposé une quatrième réponse : la voiture elle-même ! Il propose en effet que les voitures autonomes puissent (et doivent) contracter une police d’assurance. De cette façon, aux modèles disposant d’excellents bilans de sécurité seront attribuées des primes d’assurance très basses, tandis qu’aux modèles mal conçus provenant de constructeurs peu scrupuleux correspondront des primes d’assurance telles que leur possession s’avérera prohibitive. Mais, si des machines comme des voitures sont autorisées à posséder des polices d’assurance, pourront-elles aussi avoir de l’argent, des biens ? Si c’est le cas, il n’y a aucun obstacle légal au fait qu’un ordinateur perfectionné puisse gagner de l’argent à la Bourse et l’utiliser pour acheter des services en ligne. Et, une fois qu’un ordinateur a commencé à rétribuer un homme à son service, rien ne l’empêche de faire ce qu’un homme peut faire. Si des systèmes A.I. finissent par investir mieux que les hommes (ce qui est déjà le cas dans certains domaines), cela risque de glisser vers une situation où les machines contrôleraient et posséderaient la plus grande part de notre économie. Est-ce ce que nous voulons ? Si cela vous paraît une vision très lointaine, songez que ce sont déjà d’autres entités non humaines qui détiennent le plus gros de notre économie : les entreprises, souvent plus puissantes que n’importe quelle personne en leur sein et pouvant, dans une certaine mesure, vivre leur propre vie. Si vous êtes d’accord pour accorder aux machines un droit de propriété, que penser alors de leur donner le droit de vote ? Et, dans ce cas, chaque ordinateur disposera-t-il d’une voix, quand bien même il peut facilement réutiliser des milliards de copies de lui-même dans le cloud s’il est assez riche, s’assurant ainsi que c’est lui qui fera la pluie et le beau temps dans toute élection ? Si jamais vous n’êtes pas d’accord, quelle base morale vous permettra de discriminer les cerveaux des machines au bénéfice des cerveaux humains ? La réponse est-elle différente si les cerveaux des machines sont conscients, au sens des sensations subjectives que nous connaissons ? Nous étudierons plus en profondeur au prochain chapitre ces sujets de débat à propos d’un contrôle par des ordinateurs dans notre monde et au chapitre 8 la question de la conscience des machines.”
Pour les passages cités — Copyright : Dunod, 2018, pour la traduction française.
Allez, je vous laisse, c’est l’heure de la gym (je dois prendre soin de mon corps biologique en attendant de télécharger mon “intelligence” dans une machine type IBM Watson super sophistiquée) …
NB : les liens fournis dans cet article ont tous été trouvés par les élèves (des “biologiques” comme moi). Je me demande si un jour je ferai prof pour A.I. …
