Yuval Noah Harari sur le big data, Google et la fin du libre arbitre
Par Yuval Noah Harari traduit de l’anglais par Onur Karapinar
Source : Financial Times
Pendant des milliers d’années, les humains croyaient que l’autorité provenait des dieux. Ensuite, au cours de l’ère moderne, l’humanisme a peu à peu déplacé l’autorité des divinités vers les personnes.
Jean-Jacques Rousseau a résumé cette révolution dans Émile, son traité de l’éducation en 1762.
En cherchant les règles de conduite dans la vie, Rousseau les a trouvés « au fond de mon cœur, tracé par la nature en caractères que rien ne peut effacer. Je n’ai besoin que de me consulter à propos de ce que je souhaite faire ; ce que je ressens pour être bon, c’est bon, ce que je ressens pour être mauvais, c’est mauvais. »
Des penseurs humanistes comme Rousseau nous ont convaincus que nos propres sentiments et désirs étaient la source ultime de sens et que notre libre-arbitre était donc la plus haute autorité parmi toutes.
À présent, un nouveau changement se déroule. Tout comme l’autorité divine était légitimée par les mythologies religieuses, et l’autorité humaine était légitimée par les idéologies humanistes, les gourous high-tech et les prophètes de la Silicon Valley créent un nouveau récit universel qui légitime l’autorité des algorithmes et des Big Data.
Son nouveau credo peut s’appeler « Dataïsme ». Dans sa forme extrême, les partisans de la vision du monde Dataïste perçoivent l’ensemble de l’univers comme un flux de données, considèrent les organismes comme un peu plus que des algorithmes biochimiques et croient que la vocation cosmique de l’humanité est de créer un système de traitement de l’information global, puis de le fusionner.
Nous devenons déjà de minuscules puces dans un système géant que personne ne comprend vraiment. Chaque jour, j’absorbe d’innombrables bits de données via des courriels, des appels téléphoniques et des articles ; traite les données ; et transmets de nouveaux bits via davantage de courriels, d’appels téléphoniques et d’articles.
Je ne sais pas vraiment où je m’inscris dans le grand schéma des choses et comment mes données se connectent aux bits produits par des milliards d’autres humains et des ordinateurs.
Je n’ai pas le temps de le découvrir, car je suis trop occupé à répondre aux courriels. Ce flux de données implacable déclenche de nouvelles inventions et des perturbations que personne ne prévoit, ne contrôle ou comprend.
Mais personne ne doit chercher à comprendre. Tout ce que vous devez faire est de répondre rapidement à vos courriels. De même que les capitalistes du marché libre croient en la main invisible du marché, les Dataïstes, eux, croient en la main invisible du flux de données.
Comme le système de traitement de l’information global devient omniscient et tout-puissant, la connexion au système devient alors la source de toute signification. La nouvelle devise dit : « Si vous ressentez quelque chose, enregistrez-le. Si vous enregistrez quelque chose, téléchargez-le. Si vous téléchargez quelque chose, partagez-le. »
En outre, les Dataïstes croient que, compte tenu de suffisamment de données biométriques et de puissance informatique, ce système tout entier englobe les êtres humains bien mieux que nous ne nous comprenons.
Une fois que cela se produit, les humains perdront leur autorité, et les pratiques humanistes telles que les élections démocratiques deviendront aussi obsolètes que les danses de pluie et les couteaux de silex.
Lorsque Michael Gove a annoncé sa candidature de courte durée pour devenir le Premier ministre britannique dans le sillage du Brexit de juin 2016, il a expliqué : « À chaque étape de ma vie politique, je me suis posé une question : Qu’est ce qu’il faut bien faire ? Qu’est-ce que te dit ton cœur ? »
C’est pourquoi, selon Gove, il avait combattu si fort en faveur du Brexit, et c’est pourquoi aussi il se sentait obligé de poignarder dans le dos de son ancien allié Boris Johnson et de se proposer pour la position du chien alpha, car son cœur lui avait dit de le faire.
Gove n’est pas seul à écouter son cœur dans des moments critiques. Depuis quelques siècles, l’humanisme a vu le cœur humain comme la source suprême de l’autorité non seulement dans la politique, mais dans tous les autres domaines d’activité. Depuis l’enfance, nous sommes bombardés d’un barrage de slogans humanistes qui nous conseillent : « Écoutez-vous, soyez fidèle à vous-même, croyez-vous, suivez votre cœur, faites ce qui vous fait du bien ».
En politique, nous croyons que l’autorité dépend des libres choix des électeurs ordinaires. En économie de marché, nous soutenons que le client a toujours raison. L’art humaniste pense que la beauté est dans l’œil du spectateur ; l’éducation humaniste nous enseigne à penser pour nous-mêmes ; et l’éthique humaniste nous informe que si on se sent bien avec, nous devrions aller de l’avant et le faire.
Bien sûr, l’éthique humaniste se heurte souvent à des situations où quelque chose qui me fait aller bien vous est désagréable. Par exemple, chaque année, la communauté LGBT israélienne organise un défilé gay dans les rues de Jérusalem.
C’est une journée unique d’harmonie dans cette ville de conflit, parce que c’est la seule occasion où les juifs religieux, les musulmans et les chrétiens trouvent soudainement une cause commune : tous sont furieux contre le défilé gay. Ce qui est vraiment intéressant, c’est l’argument que les fanatiques religieux utilisent.
Ils ne disent pas : « Vous ne devriez pas organiser un défilé gay parce que Dieu interdit l’homosexualité ». Au contraire, ils expliquent à tous les microphones et caméras de télévision disponibles que « voir un défilé gay passant par la ville sainte de Jérusalem blessent nos sentiments. Tout comme les homosexuels veulent que nous respections leurs sentiments, ils doivent respecter le nôtre. »
Peu importe ce que vous pensez de cette énigme particulière ; il est beaucoup plus important de comprendre que, dans une société humaniste, les débats éthiques et politiques se déroulent au nom de sentiments humains contradictoires, plutôt que dans le nom des commandements divins.
Pourtant, l’humanisme est maintenant confronté à un défi existentiel et l’idée de « libre-arbitre » est menacée.
Des idées scientifiques sur la façon dont nos cerveaux et nos corps fonctionnent suggèrent que nos sentiments ne sont pas une qualité spirituelle humaine unique. Il s’agit plutôt de mécanismes biochimiques que tous les mammifères et les oiseaux utilisent pour prendre des décisions en calculant rapidement les probabilités de survie et de reproduction.
Contrairement à l’opinion populaire, les sentiments ne sont pas l’opposé de la rationalité ; ils sont la rationalité évolutive faite chair. Quand un babouin, une girafe ou un humain voit un lion, la peur survient parce qu’un algorithme biochimique calcule les données pertinentes et conclut que la probabilité de mort est élevée.
De même, des sentiments d’attraction sexuelle surviennent lorsque d’autres algorithmes biochimiques calculent qu’un individu voisin offre une probabilité élevée d’accouplement réussi.
Ces algorithmes biochimiques ont évolué et se sont améliorés grâce à des millions d’années d’évolution. Si les sentiments d’un ancêtre ancien ont commis une erreur, les gènes qui façonnent ces sentiments n’ont pas été transmis à la génération suivante.
Bien que les humanistes aient tort de penser que nos sentiments reflètent un mystérieux « libre-arbitre », jusqu’à présent, l’humanisme a toujours eu un très bon sens pratique.
Car bien qu’il n’y ait rien de magique sur nos sentiments, ils étaient pourtant la meilleure méthode dans l’univers pour prendre des décisions — et aucun système extérieur ne pouvait espérer comprendre mes sentiments mieux que moi.
Même si l’Église catholique ou le KGB soviétique m’ont espionné tous les jours à chaque minute, ils manquaient de la connaissance biologique et du pouvoir informatique nécessaire pour calculer les processus biochimiques qui façonnaient mes désirs et mes choix.
Par conséquent, l’humanisme avait raison de dire aux gens de suivre leur propre cœur. Si vous deviez choisir entre écouter la Bible et écouter vos sentiments, il était préférable d’écouter vos sentiments. La Bible représentait les opinions et les préjugés de quelques prêtres dans l’ancienne Jérusalem.
Vos sentiments, en revanche, ont représenté la sagesse accumulée de millions d’années d’évolution qui ont passé les tests de contrôle de qualité les plus rigoureux de la sélection naturelle.
Cependant, comme l’Église et le KGB cèdent la place à Google et à Facebook, l’humanisme perd ses avantages pratiques. Car nous sommes maintenant au confluent de deux marées scientifiques.
D’une part, les biologistes déchiffrent les mystères du corps humain et, en particulier, du cerveau et des sentiments humains. Dans le même temps, les informaticiens nous donnent un pouvoir de traitement de données sans précédent.
Lorsque vous combinez les deux ensemble, vous obtenez des systèmes externes qui peuvent surveiller et comprendre mes sentiments bien mieux que je le peux. Une fois que les grands systèmes de données me connaissent mieux que moi-même, l’autorité passera des humains aux algorithmes. Le Big Data pourrait alors habiliter Big Brother.
Cela s’est déjà produit dans le domaine de la médecine. Les décisions médicales les plus importantes dans votre vie ne plus basées sur vos ressenti de maladie ou de bien-être, ou même sur les prédictions éclairées de votre médecin, mais sur les calculs des ordinateurs qui vous connaissent mieux que vous vous connaissez.
Un exemple récent de ce processus est le cas de l’actrice Angelina Jolie. En 2013, Jolie a fait un test génétique qui a prouvé qu’elle portait une mutation dangereuse du gène BRCA1.
Selon les bases de données statistiques, les femmes qui portent cette mutation ont une probabilité de 87 % de développer un cancer du sein. Bien qu’à l’époque où Jolie n’avait pas de cancer, elle a décidé de préempter la maladie et subit une double mastectomie.
Elle ne se sentait pas malade mais elle a décidé d’écouter judicieusement les algorithmes informatiques. « Vous ne savez peut-être pas quelque chose qui ne va pas », ont déclaré les algorithmes, « mais il y a une bombe à retardement dans votre ADN. Faites quelque chose à ce sujet — maintenant ! »
Ce qui se passe déjà en médecine est susceptible d’avoir lieu dans de plus en plus de domaines. Ça commence par des choses simples, comme le livre à acheter et à lire.
Comment les humanistes choisissent-ils un livre ? Ils vont dans une librairie, se promènent entre les allées, feuillettent un livre et lisent les premières phrases de l’autre, jusqu’à ce qu’un sentiment d’entraînement les relie à un tome particulier.
Les Dataïstes utilisent Amazon. En entrant dans le magasin virtuel Amazon, un message apparaît et me dit : « Je connais les livres que vous avez appréciés par le passé. Les gens ayant des goûts semblables ont aussi tendance à aimer ce nouveau livre. »
Ce n’est que le début. Les appareils tels que le Kindle d’Amazon peuvent constamment recueillir des données sur leurs utilisateurs pendant qu’ils lisent des livres.
Votre Kindle peut surveiller les parties d’un livre que vous lisez rapidement et celles que vous lisez lentement ; sur quelle page vous avez pris une pause, et sur quelle phrase vous avez abandonné le livre, ou jamais repris.
Si Kindle devait être mis à niveau avec un logiciel de reconnaissance de visage et des capteurs biométriques, il saurait comment chaque phrase a influencé votre fréquence cardiaque et votre tension artérielle. Il saurait ce qui vous a fait rire, ce qui vous a rendu triste, ce qui vous a mis en colère.
Bientôt, les livres vous liront pendant que vous les lisez. Et alors que vous oubliez rapidement une bonne partie de ce que vous lisez, les programmes informatiques ne doivent jamais oublier.
De telles données devraient éventuellement permettre à Amazon de choisir des livres pour vous avec une précision inquiétante. Cela permettra également à Amazon de savoir exactement qui vous êtes et comment appuyer sur vos boutons émotionnels.
Apportez ceci à sa conclusion logique et, finalement, les gens peuvent donner aux algorithmes le pouvoir de prendre les décisions les plus importantes dans leur vie, par exemple, avec qui se marier.
Dans l’Europe médiévale, les prêtres et les parents avaient le pouvoir de choisir votre partenaire pour vous. Dans les sociétés humanistes, nous accordons ce pouvoir à nos sentiments.
Dans une société Dataïste, je demanderai à Google de choisir. « Écoutez, Google, » je dirais que « John et Paul me courtisent. J’aime les deux, mais d’une manière différente, et il est si difficile de me décider. Compte tenu de tout ce que vous savez, que me conseillez-vous de faire ? »
Et Google répondra : « Eh bien, je te connais depuis le jour de ta naissance. J’ai lu tous tes courriels, enregistré tous tes appels téléphoniques et connais tes films préférés, ton ADN et toute l’histoire biométrique de ton cœur. J’ai des données exactes sur chaque rendez-vous où tu es allée, et je peux te montrer les graphiques de ta fréquence cardiaque, de ta tension artérielle et de ton taux de glycémie à chaque fois que tu es allée à un rendez-vous avec John ou Paul. Et, naturellement, je les connais aussi bien que je te connais. Sur la base de toutes ces informations, de mes superbes algorithmes et sur des décennies de statistiques sur des millions de relations, je te conseille d’aller avec John, avec une probabilité de 87 % d’être plus satisfait de lui à long terme. »
« En effet, je te connais si bien que je sais même que tu n’aimes pas cette réponse. Paul est beaucoup plus beau que John et, parce que tu donnes trop de poids aux apparences extérieures, tu as secrètement voulu que je dise «Paul». Regarde bien sûr, mais pas autant que tu penses. Vos algorithmes biochimiques — qui ont évolué il y a des dizaines de milliers d’années dans la savane africaine — donnent à la beauté extérieure un poids de 35 % dans leur note globale des partenaires potentiels. Mes algorithmes — qui sont basés sur les études et les statistiques les plus récentes — disent que les regards ont seulement 14 % d’impact sur le succès à long terme des relations amoureuses. Alors, même si j’ai pris en compte la beauté de Paul, je te dis à nouveau que tu seras mieux avec John ».
Google n’aura pas à être parfait. Il ne devra pas avoir raison tout le temps. Il faudra juste qu’il soit meilleur que moi en moyenne. Et ce n’est pas si difficile, car la plupart des gens ne se connaissent pas très bien, et la plupart des gens font souvent des erreurs terribles dans les décisions les plus importantes de leur vie.
La vision du monde du Dataïste est très attrayante pour les politiciens, les hommes d’affaires et les consommateurs ordinaires, car elle offre des technologies novatrices et d’immenses nouvelles puissances. Lorsque les consommateurs devront choisir entre garder leur vie privée et avoir accès à des soins de santé bien supérieurs, la plupart choisiront la santé.
Pour les savants et les intellectuels, le Dataïsme promet de fournir le Saint Graal scientifique qui nous a échappé depuis des siècles : une théorie unique et globale qui unit toutes les disciplines scientifiques de la musicologie à l’économie, jusqu’à la biologie.
Selon le Dataïsme, la cinquième symphonie de Beethoven, une bulle boursière et le virus de la grippe ne sont que trois modèles de flux de données qui peuvent être analysés en utilisant les mêmes concepts et outils de base. Cette idée est extrêmement attrayante. Il donne à tous les scientifiques une langue commune, construit des ponts sur des fissures académiques et exporte facilement des idées sur les frontières disciplinaires.
Bien sûr, comme les dogmes précédents, le Dataïsme, aussi, peut être fondé sur un malentendu de la vie. En particulier, le Dataïsme n’a pas de réponse au « problème difficile de la conscience ».
À l’heure actuelle, nous sommes très loin d’expliquer la conscience en termes de traitement informatique. Pourquoi est-ce que lorsque des milliards de neurones dans le cerveau enflamment des signaux particuliers les uns aux autres, un sentiment subjectif d’amour, de peur ou de colère apparaît ? Nous n’avons aucune idée.
Mais même si le Dataïsme a tort sur la vie, il peut encore conquérir le monde. Beaucoup de croyances antérieures ont gagné en popularité et un pouvoir énormes en dépit de leurs erreurs factuelles.
Si le christianisme et le communisme pouvaient le faire, pourquoi pas le Dataïsme ? Le Dataïsme a d’excellentes perspectives, car il se répand actuellement dans toutes les disciplines scientifiques. Un paradigme scientifique unifié peut facilement devenir un dogme inattaquable.
Si vous n’aimez pas cela, et que vous voulez rester au-delà de la portée des algorithmes, il n’y a probablement qu’un seul conseil à vous donner, le plus ancien du livre : vous connaître.
À la fin, c’est une question empirique simple. Tant que vous avez une meilleure compréhension et connaissance de soi que les algorithmes, vos choix seront encore supérieurs et vous garderez au moins une certaine autorité dans vos mains.
Si les algorithmes semblent toutefois prêts à prendre la relève, c’est principalement parce que la plupart des êtres humains ne se connaissent presque pas.
Yuval Noah Harari est l’auteur du grand best-seller international Sapiens : Une brève histoire de l’humanité. Sa suite Homo Deus : une brève histoire de l’avenir paraît le 6 septembre en France.
Illustrations par Janne Iivonen.
La Minute Essentielle vous aide à maîtriser le meilleur de ce que les autres ont déjà compris
Rejoignez plus de 5 000 personnes qui reçoivent La Minute Essentielle, ma newsletter personnelle pour vous aider à changer vos habitudes, prendre de meilleures décisions et atteindre vos objectifs.
Dès votre inscription, vous recevrez :
- Un extrait de mon livre Petites Habitudes, Grandes Réussites : 51 pratiques inspirantes pour devenir la meilleure version de soi-même
- Un guide pratique PDF de 96 pages : 87 petites habitudes pour libérer son potentiel
- Le guide PDF : Les 59 livres les plus recommandés par les milliardaires, les icônes et les leaders
