L’intelligence artificielle peut-elle transformer notre démocratie ?
Avec la crise sanitaire, la digitalisation de la société s’est accélérée. Jamais depuis les années 90 et l’apparition d’internet, elle n’avait été aussi porteuse d’espoirs, mais aussi de menaces pour notre démocratie. Notre époque est traversée par de nombreux doutes alors que les comparaisons avec le livre « 1984 » de Georges Orwell se multiplient. En cause, les algorithmes qui créent plus que jamais leur propre réalité au profit d’acteurs privés comme les GAFAM (1) qui n’ont jamais été aussi riches et qui font peser sur notre démocratie des menaces d’une ampleur inédite : surveillance de masse, exploitation et manipulation des données personnelles pour influencer les processus démocratiques, introduction dans les algorithmes de biais cognitifs humains qui influencent le traitement des données et qui reproduisent, voire aggravent les inégalités… Quels sont les risques éthiques liés au développement de l’intelligence artificielle (IA) ? Peuvent-ils être contrôlés ? Quel est le statut moral des technologies dites de rupture comme l’IA qui révolutionneront notre futur ?
L’intelligence artificielle actuelle interroge déjà notre humanité. C’est la première fois que l’homme dans son histoire doit faire face à une technologie qui concurrence le principal acquis de son évolution : son intelligence. Pourtant, l’IA peut être une source formidable d’innovations en faveur de nos politiques publiques, notamment dans les domaines de la santé publique, ou encore dans la lutte contre le réchauffement climatique. Si l’homo politicus s’en empare dès maintenant, l’IA pourrait apaiser les tensions démocratiques de nos sociétés et répondre aux défis de notre temps en l’aidant à prendre les décisions adéquates. Puis, dans un avenir plus lointain, l’apparition d’une intelligence artificielle aussi performante qu’un humain ne manquera pas d’interroger sur notre place et notre rôle dans une démocratie renouvelée, sans oublier l’homme politique qui, devenu obsolète, risque fort de perdre toute son influence.
Les dangers des algorithmes dans nos démocraties libérales
Les algorithmes ont envahi quasiment tous les aspects de nos vies, surtout depuis l’apparition en masse des plateformes de services ces quinze dernières années : Google, Apple, Facebook, Amazon et Microsoft en sont les principales représentantes. Elles ont été rejointes depuis peu par les nouvelles BATX (2) et NATU (3). Ces plateformes utilisent comme matière première nos données personnelles qui sont traitées par des algorithmes de plus en plus puissants. Ils sont devenus tellement efficaces qu’ils sont à l’origine d’un enrichissement et d’un cercle vertueux pour les plateformes. Grâce à l’intelligence artificielle, elles disposent de toujours plus de données, ce qui rend possible un meilleur apprentissage des machines et la création de meilleurs services pour recueillir encore plus de données et obtenir plus de revenus. Ainsi, la capitalisation boursière des seuls GAFAM vaut désormais presque trois fois l’indice boursier parisien.
Pourtant, l’utilisation de ces algorithmes n’est pas sans conséquence dans nos démocraties libérales. Loin d’être impartiales, elles sont même de plus en plus souvent accusés de créer leur propre réalité. C’est le constat que fait Cathy O’Neil, ancienne analyste à Wall Street, dans son son livre « algorithmes la bombe à retardement ». Elle n’hésite d’ailleurs pas à les qualifier « d’armes de destruction mathématiques qui se développent grâce à l’ultra-connexion et leur puissance de calcul exponentielle ». Les algorithmes font planer plusieurs menaces sur nos sociétés, soulignant au passage l’impuissance de plus en plus flagrant des pouvoirs publics… Quand ces derniers n’en sont pas directement à l’origine. Depuis 2013 et les révélations d’Edward Snowden, nous savons que la NSA a massivement collecté et détenu des données personnelles de citoyens américains et d’autres pays. En 2016, de sérieux doutes ont plané sur l’ingérence du pouvoir russe dans la victoire de Donald Trump en 2016, après que des manipulations pour influencer les résultats votes ont été mises en évidence sur Facebook. Tout comme des doutes subsistent encore sur la victoire du camp du « Leave » lors du référendum pour ou contre le Brexit la même année. Le scandale de « Cambridge Analytica » a mis en lumière le rôle de cette entreprise spécialisée dans l’exploitation des données dans le résultat final du référendum, avec l’utilisation illégale de plus d’un million de comptes Facebook et la diffusion de publicités politiques utilisant la peur pour manipuler les masses. Au total, ce sont plus de 87 millions de données qui ont été utilisées à des fins électorales par l’entreprise londonienne. Dans une interview à L’ADN, le lanceur d’alerte Christopher Wylie, à l’origine de la révélation du scandale, expliquait en septembre 2020 que “tout est en germe pour une nouvelle affaire Cambridge Analytica.”
Cette réalité alternative est rendue possible par les algorithmes utilisés par les réseaux sociaux qui mettent en avant les contenus les plus négatifs pour faire réagir leurs utilisateurs. Les propres chercheurs de Facebook l’ont d’ailleurs admis dans un document interne rendu public dans un article du Wall Street Journal (4) : « 64% de toutes les adhésions à des groupes extrémistes ont pour origine nos propres outils de recommandations. (…) Nos algorithmes exploitent l’attrait du cerveau humain pour la discorde ». Très récemment, le mouvement QAnon s’est développé de façon exponentielle en popularisant des théories du complot, transformant les opposants politiques de Donald Trump — et plus largement l’élite démocrate — en pédophiles satanistes. L’assaut du Capitole à Washington le 6 janvier dernier marquera d’ailleurs le paroxysme de la croyance en cette réalité alternative.
Cette dérive grave de l’utilisation des algorithmes interroge aussi sur l’avenir de leur exploitation par les pouvoirs politiques actuels et futurs, surtout si leur efficacité de traitement de l’information s’accroit rapidement dans les prochaines années.
Et, si demain, il était possible de neutraliser grâce aux outils du ciblage les oppositions politiques aux pouvoirs en place ?
L’intelligence artificielle interroge sur les abus d’autorité sur les individus, une voie que la Chine a emprunté depuis 2014 avec la création du crédit social. En dotant chaque chinois d’un capital de points, le pouvoir central fait désormais le tri entre les bons et les mauvais citoyens. En mettant à profit les données personnelles récoltés, la Chine espère créer une nouvelle forme de gouvernance que certains n’hésitent pas à qualifier d’Orwellienne. Un scénario exploité par la série “Black Mirror” dans le premier épisode de sa troisième saison. L’histoire se déroule dans un monde futuriste où chaque personne a le pouvoir de noter les autres grâce à une application sur son portable ; les mieux notés ayant accès à de meilleurs services que ceux qui sont mal notés. Prenons le cas des journalistes, des blogueurs ou encore des lanceurs d’alerte : quelles peuvent être pour eux les conséquences d’un tel système s’ils écrivent un article critique envers le pouvoir ?
Selon la sinologue Séverine Arsène : “ce projet est surtout une nouvelle étape vers un mode technocratique et paternaliste de gouvernement, basé sur un dispositif de surveillance et des incitations et contraintes destinées à orienter en temps réel le comportement des individus”. Pour Rachel Botsman, experte en économie participative, “le gouvernement tente de faire passer l’obéissance pour un jeu. C’est une méthode de contrôle social déguisée en système de récompense. C’est l’obéissance, mais ludique”.
Dans un article (5) rédigé en 2019, Cedric Villani expliquait : « (…) on a vu qu’il était possible de deviner les préférences politiques ou la catégorie socioprofessionnelle d’un internaute en se basant sur quelques dizaines seulement de « likes », ou de modéliser la personnalité d’un usager en se basant uniquement sur cinq paramètres « utiles » : ainsi, même dans les sciences humaines, des régularités plus fortes qu’on ne l’aurait cru se sont fait jour”. Si la Chine s’est lancée dans ce programme de crédit social, c’est qu’elle a compris avant tout le monde tout ce qu’elle pouvait retirer des datas produites quotidiennement pour contrôler et sanctionner ses habitants… Elle a aussi compris que nous sommes déjà tous habitués à noter les services qui nous sont proposés quotidiennement et à recommander ou non aux autres consommateurs tel ou tel produit, enseigne… Nous sommes déjà nos propres cannibales…
Le système mis en place par la Chine n’est donc qu’une illustration de plus des dérives du capitalisme de surveillance rendue possible par l’exploitation de nos données personnelles. A l’avenir, des dictatures technologiques 2.0 émergeront, avec des outils toujours plus sophistiqués pour assurer leur stabilité et le contrôle total des populations.
Les bénéfices insoupçonnés de l’intelligence artificielle pour la démocratie
Les algorithmes pourraient constituer une formidable aide à la décision du politique en simplifiant le traitement des données et des informations. La prise de décision est un processus long que l’intelligence artificielle pourrait raccourcir pour plus d’efficacité. Déjà, en 2016, le laboratoire d’informatique de l’université de la Sorbonne, à l’origine de la création du logiciel de simulation WorkSim (6) qui vise à modéliser et simuler le marché du travail français grâce à l’utilisation de l’intelligence artificielle, avait été mis à contribution pour savoir si la loi El Khomri aurait un impact négatif ou positif sur le taux de chômage. Son résultat a montré que celle-ci permettrait une baisse du chômage de 0,5 % à court terme, mais qu’elle n’aurait aucun impact sur le long terme.
L’intelligence artificielle pourrait ainsi appuyer les élus pour les aider à prendre les bonnes décisions dans de nombreux domaines, notamment contre le risque majeur qui menace nos démocraties modernes : le réchauffement climatique, notamment dans les villes. Les promesses à ce sujet sont nombreuses et les maires sont de plus en plus nombreux à s’y intéresser. Fin 2020, le maire de Los Angeles, Eric Garcetti, annonçait utiliser la puissance de calcul de l’intelligence artificielle pour cartographier la densité de la végétation dans sa ville et identifier les quartiers qui ont le plus besoin d’arbres. « C’est un nouvel outil puissant et nous sommes la première ville dans le pays à faire ça », précisait-il dans une interview (7). Au Japon, Michihito Matsuda a même tenté de devenir maire de la ville de Tama, située dans la banlieue de Tokyo, en promettant de laisser l’intelligence artificielle déterminer la future politique de la ville. Comment ? En se basant tout simplement sur les données à sa disposition ! Un projet qui n’a pas rencontré un franc succès puisque le candidat n’a recueilli qu’un peu plus de 9% des voix.
Toutes ces promesses questionnent notre humanité alors que notre avenir semble désormais de plus en plus lié à celui de l’intelligence artificielle.
Mais l’Homme pourra-t-il être aussi facilement remplacé ? Sur quelles bases éthiques se passera le témoin entre l’homme et l’intelligence artificielle ?
Dans son livre, Cathy O’Neil met en garde contre les effets néfastes d’une sur-exploitation des algorithmes qui, bien souvent, reproduisent les inégalités déjà présentes dans nos sociétés, voire les aggravent. A l’origine de cette situation, un codage mathématique qui repose sur une interprétation des données et des choix qui sont eux bien humains. Les algorithmes ne nous libéreraient pas d’idéologies racistes ou homophobes, d’opinions nocives ou de préjugés sexistes. Au contraire, elles nous y enfermeraient… A moins que nous réussissions à y coder mathématiquement les normes éthiques indispensables pour garantir leur neutralité ?
Les principes d’éthique et les lois qui les protègent existent déjà, ils devraient donc pouvoir s’appliquer à l’intelligence artificielle pour mieux la contrôler. En France, la CNIL (8) et Cédric Villani (9) se sont penchés sur ce sujet récemment. Dans son rapport, ce dernier préconisait « d’ouvrir la boite noire » en développant notamment l’audit et l’évaluation citoyenne des IA, en intégrant l’éthique dans la formation des ingénieurs et chercheurs, en instaurant des droits collectifs sur les données, etc. Dans la continuité de cette réflexion, la France s’est dotée fin 2019, et à l’initiative du Premier Ministre, d’un comité pilote d’éthique du numérique. Ses premiers sujets de réflexion ont portés sur les robots conversationnels, la voiture autonome et la place de l’IA dans le diagnostic médical.
A l’instar de la France, de nombreux pays et instances internationales ont créé des structures dédiées aux questions éthiques posées par le développement de l’intelligence artificielle, soulignant au passage le besoin de coordination au niveau mondial. Le 22 mai 2019, l’OCDE a annoncé l’adoption par 42 pays de 10 principes « pour une intelligence artificielle, robuste, sûre et équitable ». L’an dernier, ce sont 155 pays qui ont participé à l’élaboration de l’avant-projet de recommandation sur l’éthique de l’intelligence artificielle, avec le concours de l’UNESCO.
Enfin, depuis maintenant une vingtaine d’années, les outils numériques ont également contribué à transformer en profondeur la nature et le fonctionnement de nos démocraties en permettant à toujours plus de citoyens de prendre la parole via les plateformes dédiées à l’expression d’opinions, des pétitions numériques, etc. Dans leur livre « Nouveau (contre) pouvoir » (10), ses auteurs Jeremy Heimans et Henry Timms démontrent comment le pouvoir traditionnel, détenu jusqu’à présent par quelques-uns, est de plus en plus menacé par un nouveau pouvoir basé lui sur le partage et les nouveaux outils d’un monde hyper-connecté. De la création de Facebook en 2004 aux changements majeurs opérés dans la société par les mouvements « Black Lives Matter » ou encore « Me Too » en 2018, le livre formalise une nouvelle conception du mouvement social, basée sur des principes forts comme la collaboration et la participation, la décentralisation et l’auto-organisation. La force de conviction et la simplicité des outils mis à la disposition des citoyens sont désormais le moteur des plus engagés. Ils font émergé de nouveaux espaces publics démocratiques et transparents.
Ces évolutions récentes de l’expression a sans doute pour origine les carences ou les échecs de nos démocraties représentatives actuelles qui ne représentent finalement plus les peuples comme elles le devraient. Par exemple, à l’Assemblé Nationale, si 4,6 % des députés sont employés, aucun n’est ouvrier, alors que ces deux catégories représentent la moitié de la population active. Par contre, les cadres et professions intellectuelles supérieures représentent 76 % des élus (11). D’autres critiques récurrentes mettent en avant l’absence d’éthique du personnel politique (affaires Cahuzac et Fillon…), sa professionnalisation, surtout depuis l’instauration de la Vème République, et un pouvoir exécutif tout-puissant.
Quelle forme de démocratie l’intelligence artificielle peut-elle faire émerger demain ?
Anticiper les impacts négatifs comme positifs de l’intelligence artificielle et élaborer les conditions d’un dialogue mondial, c’est se poser la question du futur de nos démocraties.
A moyen terme, sans doute au cours des trente prochaines années, l’intelligence artificielle verra son efficacité renforcée. Associée à la robotisation et à l’automatisation complète des lignes de production, elle devrait bouleverser l’économie et le marché du travail, en lui retirant notamment sa centralité dans nos vies. Des millions d’emplois seraient ainsi sur le point de disparaître. Selon une étude de Citygroup réalisée sur la base des données de la Banque mondiale, 57% des emplois de l’OCDE sont menacés. Dans des pays comme l’Inde ou la Chine, se sont respectivement 69% et 77% des emplois qui risquent d’être automatisés. Récemment, la célèbre banque JP Morgan a fait l’acquisition d’une intelligence artificielle qui lui permet d’analyser des contrats en seulement quelques secondes, alors que le même travail réalisé par des avocats nécessiterait plus de 360 000 heures par an ! La justice prédictive, qui vise la production de statistiques et de probabilités pour mettre en œuvre des solutions à des problèmes juridiques grâce à l’analyse de données, est en plein développement. Elle permet ainsi de faciliter le travail des juges dans un contexte où la justice est asphyxiée — il y trois fois moins de juges par habitant en France qu’en Allemagne — mais aussi d’uniformiser le droit, ce qui favorise le principe d’égalité devant la loi. Par contre, la justice prédictive n’encourage pas la prise en compte de situations particulières, ni l’émergence de « jurisprudences » qui ont toujours permis de porter les changements sociaux en devenant des lois, comme celle autorisant l’IVG dans les années 70.
Les gains de productivité ainsi engendrés dans les décennies à venir, s’ils sont plus équitablement répartis qu’aujourd’hui, devraient permettre une réduction massive du temps de travail et l’instauration d’un revenu universel : deux possibilités véritablement émancipatrices pour le citoyen de demain. Nous assisterions alors à la naissance d’une « démocratie permanente », dans laquelle il aurait le temps de prendre la parole de façon continue grâce à des outils numériques de plus en plus sophistiqués. L’expertise ne serait plus l’apanage d’une élite qui ferait ensuite profiter de son savoir une minorité, comme l’ont prophétisé Jeremy Heimans et Henry Timms. Elle serait de plus en plus accessible à tous, principalement grâce à un internet ultra-rapide et à une intelligence artificielle omniprésente.
Et à plus long terme ? Quelle forme de démocratie l’IA est-elle susceptible de faire émerger ?
L’histoire de nos démocraties montre qu’elles ont toujours été influencées par le progrès technologique : imprimerie, télévision… Mais parfois aussi, les plus anciennes formes de démocratie sont sources d’inspiration. Dans l’antiquité, le misthos était une compensation monétaire journalière accordée aux citoyens les plus pauvres d’Athènes. Ils participaient ainsi, contre rémunération, à la vie politique de la ville en occupant une fonction publique. Ils siégeaient par exemple dans l’équivalent de notre Assemblée Nationale, notre Sénat ou nos tribunaux.
S’il était modifié et transposé dans le futur, ce modèle permettrait, grâce à l’IA et au revenu universel qu’elle rendrait possible, l’instauration d’une véritable démocratie directe renouvelée et numérique, dans laquelle les citoyens exerceraient eux-mêmes le pouvoir, sans l’intermédiaire des élus. Nous nous rapprocherions également du modèle des conseils d’ouvriers (12), si cher à Hannah Arendt, apparus en URSS au cours de la révolution de 1905. Ces conseils ont pour origine le vétché qui « correspondait à une sorte de diète, organe principal de la puissance politique de la cité » (13). Les décisions seraient alors prises avec l’appui de l’intelligence artificielle dans des assemblées dématérialisées créées par un État numérisée.
Et à encore plus long terme ? Peut-on imaginer les démocraties du futur grâce à l’IA ?
Pour cela, il faut convoquer la puissance de l’imaginaire humain… En attendant de découvrir celle de l’intelligence artificielle ! Dans le film « Captain Marvel », le peuple Kree est gouverné par une intelligence suprême qui apparaît sous une forme différente à chacun de ses habitants. Cette « personne » n’est rien d’autre qu’une simulation créée par une intelligence artificielle qui a atteint un tel niveau de développement et de connaissance que le peuple Kree lui a entièrement confié les choix liés à sa destinée.
Ce scénario de science-fiction n’en est plus vraiment un pour beaucoup de penseurs et de spécialistes de l’IA. Selon eux, l’intelligence artificielle du futur disposera de capacités de calcul démultipliées et sans doute supérieures à celles de l’homme. Ils estiment, comme Peter Diamandis, qu’elle pourrait mettre fin à la maladie et à la pauvreté dans le monde.
Le statut éthique des technologies représente un des enjeux de la société digitale de demain. L’intelligence artificielle, qui va voir ses capacités multipliées au cours des prochaines décennies, interrogera notre humanité et notre place dans nos démocraties libérales. L’éthique semble de plus en plus être la clé pour contrôler son développement et éviter le renouvellement des inégalités qui rongent nos sociétés.
Reste à savoir qui des états ou des acteurs privés comme les GAFAM gagneront la course à l’intelligence artificielle, tant ces derniers semblent les seuls en mesure de financer la course aux innovations, notamment dans l’informatique quantique, pour repousser encore plus les capacités d’analyse et de traitement des ordinateurs.
En septembre 2017, lors d’une conférence sur les nouvelles technologies, Vladimir Poutine annonçait déjà ce qui nous attend : « l’intelligence artificielle représente l’avenir non seulement de la Russie, mais de toute l’humanité. Elle amène des opportunités colossales et des menaces imprévisibles aujourd’hui. Celui qui deviendra le leader dans ce domaine sera le maître du monde. Et il est fortement indésirable que quelqu’un obtienne un monopole dans ce domaine. »
Article rédigé avec l’aide de l’association Anticor qui lutte contre la corruption et souhaite rétablir l’éthique en politique.
- Google, Amazon, Facebook, Apple et Microsoft.
- Baidu, Alibaba, Tencent et Xiaomi.
- Netflix, Airbnb, Tesla et Uber.
- Source : « Facebook Executives Shut Down Efforts to Make the Site Less Divisive », rédigé parJeff Horwitz et Deepa Seetharaman — 26 mai 2020.
- « Les enjeux politiques de l’intelligence artificielle ».
- Source : http://www-poleia.lip6.fr/~kant/worksim/index-FR.html
- Source : scienceetavenir.fr. Article : « Los Angeles s’allie à Google pour cartographier ses arbres et lutter contre la chaleur ».
- Source : https://www.cnil.fr/fr/ethique-et-intelligence-artificielle
- Lien vers le rapport public « Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne » : https://www.vie-publique.fr/rapport/37225-donner-un-sens-lintelligence-artificielle-pour-une-strategie-nation
- Source : Nouveau (contre) pouvoir — 324 pages — Editeur : Plon — 2018
- Source : institut Diderot
- Source : Wikipédia — https://fr.wikipedia.org/wiki/Conseil_ouvrier
- Source : Wikipédia — https://fr.wikipedia.org/wiki/Vétché
