Le coup d’État dont nous ne parlons pas

Nous pouvons avoir la démocratie, ou nous pouvons avoir une société de surveillance, mais nous ne pouvons pas avoir les deux.

Pascal Kotté
Feb 9 · 26 min read

Texte en anglais sur le NYT de Shoshana Zuboff le 29 janvier 2021, traduit par Pascal Kotté (votre erviteur) assisté par Google translator.
Pour ma part, je parle de:

Merci Jean-Pierre Melard https://www.linkedin.com/posts/jpmelard_the-coup-we-are-not-talking-about-activity-6763762671650123776-QXJA

Le Dr Zuboff, professeur émérite à la Harvard Business School, est l’auteure de «The Age of Surveillance Capitalism».

Image for post
Image for post
Crédit…Robert Beatty

Il y a deux décennies, le gouvernement américain a laissé la porte d’entrée de la démocratie ouverte aux nouvelles sociétés Internet de Californie, un feu chaleureux allumé en guise de bienvenue. Dans les années qui ont suivi, une société de surveillance s’est épanouie dans ces salles, une vision sociale née des besoins distincts mais réciproques des agences de renseignement public et des sociétés Internet privées, toutes deux fascinées par un rêve de connaissance totale de l’information.

Vingt ans plus tard, le feu a sauté l’écran et, le 6 janvier, il a menacé de brûler la maison de la démocratie.

J’ai passé exactement 42 ans à étudier la montée du numérique en tant que force économique motrice de notre transformation en une civilisation de l’information. Au cours des deux dernières décennies, j’ai observé les conséquences de cette surprenante fraternité politico-économique alors que ces jeunes entreprises se transformaient en empires de surveillance alimentés par des architectures mondiales de surveillance, d’analyse, de ciblage et de prédiction comportementale que j’ai appelé le capitalisme de surveillance. Sur la base de leurs capacités de surveillance et dans l’intérêt de leurs bénéfices de surveillance, les nouveaux empires ont organisé un coup d’État épistémique fondamentalement antidémocratique marqué par des concentrations sans précédent de connaissances sur nous et le pouvoir inexplicable qui en découle.

( Pascal Kotté: Je parle moi-même du “cinquième pouvoir”)

Dans une civilisation de l’information, les sociétés sont définies par des questions de savoir — comment il est distribué. L’autorité qui régit sa distribution et le pouvoir qui protège cette autorité. Qui sait? Qui décide qui sait? Qui décide qui décide qui sait? Les capitalistes de surveillance détiennent désormais les réponses à chaque question, bien que nous ne les ayons jamais élus pour gouverner. Telle est l’essence du coup d’État épistémique. Ils revendiquent le pouvoir de décider qui sait en affirmant des droits de propriété sur nos informations personnelles et de défendre cette autorité avec le pouvoir de contrôler les systèmes et infrastructures d’information critiques.

Les profondeurs horribles de la tentative de coup d’État politique de Donald Trump surfent sur la vague de ce coup d’État de l’ombre, poursuivi au cours des deux dernières décennies par les médias antisociaux que nous avons autrefois accueillis comme agents de libération. Le jour de l’inauguration, le président Biden a déclaré que «la démocratie a prévalu» et a promis de restaurer la valeur de la vérité à sa juste place dans une société démocratique. Néanmoins, la démocratie et la vérité restent sous le plus haut niveau de menace jusqu’à ce que nous vainquions l’autre coup d’État du capitalisme de surveillance.

Le coup d’État épistémique se déroule en quatre étapes.

Le premier est l’appropriation des droits épistémiques, qui jette les bases de tout ce qui suit. Le capitalisme de surveillance trouve son origine dans la découverte que les entreprises peuvent revendiquer la vie des gens en tant que matière première gratuite pour l’extraction de données comportementales, qu’elles déclarent ensuite leur propriété privée.

La deuxième étape est marquée par une forte augmentation des inégalités épistémiques, définies comme la différence entre ce que je peux savoir et ce que l’on peut savoir de moi.

La troisième étape, que nous vivons actuellement, introduit un chaos épistémique causé par l’amplification, la diffusion et le microtargeting algorithmiques axées sur le profit d’informations corrompues, en grande partie produites par des schémas coordonnés de désinformation. Ses effets se font sentir dans le monde réel, où ils brisent la réalité partagée, empoisonnent le discours social, paralysent la politique démocratique et provoquent parfois la violence et la mort.

Dans la quatrième étape, la domination épistémique est institutionnalisée, l’emportant sur la gouvernance démocratique avec une gouvernance informatique par un capital de surveillance privé. Les machines savent, et les systèmes décident, dirigés et soutenus par l’autorité illégitime et le pouvoir antidémocratique du capital de surveillance privé. Chaque étape s’appuie sur la dernière. Le chaos épistémique prépare le terrain pour la domination épistémique en affaiblissant la société démocratique — trop évidente dans l’insurrection au Capitole américain.

Image for post
Image for post
rédit…Saul Loeb / Agence France-Presse — Getty Images

Notre époque est comparable à la première ère de l’industrialisation, où les propriétaires avaient tout le pouvoir, leurs droits de propriété privilégiés au-dessus de toute autre considération. La vérité intolérable de notre situation actuelle est que l’Amérique et la plupart des autres démocraties libérales ont, jusqu’à présent, cédé la propriété et le fonctionnement de tout ce qui est numérique à l’économie politique du capital de surveillance privé, qui rivalise maintenant avec la démocratie sur les droits et principes fondamentaux qui définira notre ordre social en ce siècle.

Cette dernière année de misère pandémique et d’autocratie Trumpiste a amplifié les effets du coup d’État épistémique, révélant le potentiel meurtrier des médias antisociaux bien avant le 6 janvier. La vérité dérangeante qui s’est profilée au cours des deux dernières décennies? Nous pouvons avoir la démocratie, ou nous pouvons avoir une société de surveillance, mais nous ne pouvons pas avoir les deux.

Une société de surveillance démocratique est une impossibilité existentielle et politique. Ne vous y trompez pas: c’est le combat pour l’âme de notre civilisation de l’information.

Bienvenue dans la troisième décennie.

L’exception de la surveillance

La tragédie publique du 11 septembre a radicalement déplacé l’attention à Washington des débats sur la législation fédérale sur la protection de la vie privée à une manie de sensibilisation totale à l’information, transformant les pratiques de surveillance innovantes de la Silicon Valley en objets d’un intérêt intense. Comme Jack Balkin, professeur à la faculté de droit de Yale, observé, la communauté du renseignement devrait « compter sur les entreprises privées pour collecter et produire de l’information pour elle, » afin d’aller au — delà des contraintes constitutionnelles, juridiques ou réglementaires, les controverses qui sont au cœur aujourd’hui. D’ici 2013, le directeur de la technologie de la CIA a décrit la mission de l’agence «de tout collecter et de s’y accrocher pour toujours », reconnaissant les sociétés Internet, y compris Google, Facebook, YouTube, Twitter, Fitbit et les sociétés de télécommunications, pour avoir rendu cela possible.

Les racines révolutionnaires du capitalisme de surveillance sont plantées dans cette doctrine politique non écrite de l’exceptionnalisme de la surveillance, contournant le contrôle démocratique et accordant essentiellement aux nouvelles sociétés Internet une licence pour voler l’expérience humaine et la rendre comme des données propriétaires.

Les jeunes entrepreneurs sans mandat démocratique ont décroché une manne d’informations infinies et un pouvoir inexplicable. Les fondateurs de Google, Larry Page et Sergey Brin, exerçaient un contrôle absolu sur la production, l’organisation et la présentation des informations mondiales. Mark Zuckerberg de Facebook a eu un contrôle absolu sur ce qui deviendrait un moyen principal de communication mondiale et de consommation d’informations, ainsi que toutes les informations dissimulées dans ses réseaux. Le nombre de membres du groupe a augmenté et une population croissante d’utilisateurs mondiaux a continué sans savoir ce qui venait de se passer.

La licence de voler avait un prix, liant les cadres au patronage continu des élus et des régulateurs ainsi qu’à l’ignorance soutenue, ou du moins apprise à la démission, des utilisateurs. La doctrine était, après tout, une doctrine politique, et sa défense nécessiterait un avenir de manœuvres politiques, d’apaisement, d’engagement et d’investissement.

Google a ouvert la voie avec ce qui allait devenir l’une des machines de lobbying les plus riches au monde. En 2018, près de la moitié du Sénat a reçu des contributions de Facebook, Google et Amazon, et les entreprises continuent d’établir des records de dépenses.

Plus important encore, l’exceptionnalisme de la surveillance a signifié que les États-Unis et de nombreuses autres démocraties libérales ont choisi la surveillance plutôt que la démocratie comme principe directeur de l’ordre social. Avec ce forfait, les gouvernements démocratiques ont paralysé leur capacité à maintenir la confiance de leur peuple, intensifiant la justification de la surveillance.

L’économie et la politique du chaos épistémique

Pour comprendre l’économie du chaos épistémique, il est important de savoir que les opérations du capitalisme de surveillance n’ont aucun intérêt formel dans les faits. Toutes les données sont accueillies comme équivalentes, même si toutes ne sont pas égales. Les opérations d’extraction se déroulent avec la discipline du cyclope, consommant avec voracité tout ce qu’il peut voir et radicalement indifférent au sens, aux faits et à la vérité.

Dans une note de service divulguée, un cadre de Facebook, Andrew Bosworth, décrit ce mépris volontaire de la vérité et du sens: «Nous connectons les gens. Cela peut être bon s’ils le rendent positif. Peut-être que quelqu’un trouve l’amour. … Cela peut être mauvais s’ils le rendent négatif. … Peut-être que quelqu’un meurt dans une attaque terroriste. … La triste vérité est que… tout ce qui nous permet de connecter plus de personnes plus souvent est * de facto * bon. »

En d’autres termes, demander à un extracteur de surveillance de rejeter le contenu revient à demander à une exploitation houillère de jeter des conteneurs de charbon parce qu’il est trop sale. C’est pourquoi la modération de contenu est un dernier recours, une opération de relations publiques dans l’esprit de la messagerie de responsabilité sociale d’ExxonMobil. Dans le cas de Facebook, le tri des données est effectué soit pour minimiser le risque de retrait de l’utilisateur, soit pour éviter des sanctions politiques. Les deux visent à augmenter plutôt qu’à réduire les flux de données. L’impératif d’extraction combiné à une indifférence radicale pour produire des systèmes qui augmentent sans cesse l’échelle de l’engagement mais ne se soucient pas de ce qui vous engage.

Je rentre maintenant sur Facebook non pas parce que c’est le seul auteur du chaos épistémique, mais parce que c’est la plus grande entreprise de médias sociaux et que ses conséquences vont le plus loin.

L’économie du capitalisme de surveillance a engendré le Cyclope extractif, transformant Facebook en un poids lourd de la publicité et un champ de mort pour la vérité. Puis un amoral M. Trump est devenu président, exigeant le droit de mentir à grande échelle. L’économie destructrice a fusionné avec l’apaisement politique, et tout est devenu infiniment pire.

La clé de cette histoire est que la politique d’apaisement n’exigeait guère plus qu’un refus d’atténuer, de modifier ou d’éliminer la vilaine vérité de l’économie de la surveillance. Les impératifs économiques du capitalisme de surveillance ont transformé Facebook en une poudrière sociétale. M. Zuckerberg a simplement dû se retirer et s’engager dans le rôle de spectateur.

Des recherches internes présentées en 2016 et 2017 ont démontré des liens de causalité entre les mécanismes de ciblage algorithmique de Facebook et le chaos épistémique. Un chercheur a conclu que les algorithmes étaient responsables de la propagation virale du contenu diviseur qui a contribué à alimenter la croissance des groupes extrémistes allemands. Les outils de recommandation représentaient 64% des «groupes extrémistes», a-t-elle constaté — une dynamique qui n’est pas propre à l’Allemagne .

Le scandale Cambridge Analytica en mars 2018 a captivé l’attention du monde entier sur Facebook d’une nouvelle manière, offrant une fenêtre pour un changement audacieux. Le public a commencé à comprendre que l’activité de publicité politique de Facebook était un moyen de louer la suite de capacités de l’entreprise à des utilisateurs de micro Target, de les manipuler et de semer le chaos épistémique, faisant pivoter l’ensemble de la machine de quelques degrés, des objectifs commerciaux aux objectifs politiques.

Image for post
Image for post
Crédit…Photo de la piscine par Graeme Jennings / EPA, via Shutterstock

La société a lancé quelques initiatives modestes, promettant plus de transparence, un système plus robuste de vérificateurs de faits tiers et une politique pour limiter les « comportements inauthentiques coordonnés », mais à travers tout cela, M. Zuckerberg a concédé le terrain aux demandes de M. Trump pour accès à la circulation sanguine mondiale de l’information.

M. Zuckerberg a rejeté les propositions internes de changements opérationnels qui réduiraient le chaos épistémique.

Une liste blanche politique a identifié plus de 100 000 fonctionnaires et candidats dont les comptes ont été exemptés de vérification des faits, malgré des recherches internes montrant que les utilisateurs ont tendance à croire aux fausses informations partagées par les politiciens.

En septembre 2019, la société a déclaré que la publicité politique ne ferait pas l’objet d’une vérification des faits.

Pour apaiser ses critiques en 2018, M. Zuckerberg a commandé un audit des droits civils dirigé par Laura Murphy, ancienne directrice du bureau législatif de l’ACLU à Washington. Le rapport publié en 2020 est un cri de cœur exprimé dans un fleuve de mots qui témoignent d’espoirs déçus — «découragés», «frustrés», «en colère», «consternés», «craintifs», «déchirants».

Le rapport est cohérent avec une rupture presque complète de la confiance du public américain dans la Big Tech. Lorsqu’on lui a demandé comment Facebook s’adapterait à un changement politique vers une éventuelle administration Biden, un porte-parole de l’entreprise, Nick Clegg, a répondu: «Nous nous adapterons à l’environnement dans lequel nous opérons. Et c’est ce qu’il a fait. Le 7 janvier, le jour après qu’il est devenu clair que les démocrates contrôleraient le Sénat, Facebook a annoncé qu’il bloquerait indéfiniment le compte de M. Trump.

Nous sommes censés croire que les effets destructeurs du chaos épistémique sont le coût inévitable des droits précieux à la liberté d’expression. Non! Tout comme les niveaux catastrophiques de dioxyde de carbone dans l’atmosphère terrestre sont la conséquence de la combustion de combustibles fossiles, le chaos épistémique est une conséquence des opérations commerciales de base du capitalisme de surveillance, aggravées par les obligations politiques et déclenchées par un rêve vieux de 20 ans. Une information totale qui a glissé dans le cauchemar. Puis un fléau est arrivé en Amérique, transformant la conflagration des médias antisociaux en feu de forêt.

Le chaos épistémique rencontre un mystérieux micro-organisme

Dès février 2020, l’Organisation mondiale de la santé a signalé un Covid-19 «infodémique», avec des mythes et des rumeurs se répandant sur les réseaux sociaux. En mars, des chercheurs de l’Université du Texas MD Anderson Cancer Center ont conclu que la désinformation médicale liée au coronavirus «se propageait à un rythme alarmant sur les médias sociaux», mettant en danger la sécurité publique.

Le Washington Post a rapporté fin mars qu’avec près de 50% du contenu du fil d’actualité de Facebook lié à Covid-19, un très petit nombre d ‘«utilisateurs influents» étaient à l’origine des habitudes de lecture et des flux d’un grand nombre d’utilisateurs. Une étude publiée en avril par le Reuters Institute a confirmé que des politiciens de haut niveau, des célébrités et d’autres personnalités publiques de premier plan ont produit 20% de la désinformation dans leur échantillon, mais ont attiré 69% des engagements sur les médias sociaux de leur échantillon.

Une étude publiée en mai par l’Institut britannique pour le dialogue stratégique a identifié un groupe de 34 sites Web d’extrême droite diffusant de la désinformation Covid ou liés à des centres de désinformation sur la santé établis désormais axés sur Covid-19. De janvier à avril 2020, les publications publiques sur Facebook reliant ces sites Web ont généré 80 millions d’interactions, tandis que les publications renvoyant au site Web de l’OMS ont reçu 6,2 millions d’interactions et les Centers for Disease Control and Prevention en ont reçu 6,4 millions.

Une étude d’ Avaaz publiée en août a révélé 82 sites Web diffusant de la désinformation sur Covid, atteignant un pic de près d’un demi-milliard de vues sur Facebook en avril. Le contenu des 10 sites Web les plus populaires a attiré environ 300 millions de vues sur Facebook, contre 70 millions pour 10 grands établissements de santé. Les modestes efforts de modération du contenu de Facebook n’étaient pas à la hauteur de ses propres systèmes de machine conçus pour le chaos épistémique.

En octobre, un rapport du National Center for Disaster Preparedness de l’Université de Columbia a estimé le nombre de décès évitables de Covid-19. Plus de 217 000 Américains sont morts. Malheureusement, l’analyse a conclu qu’au moins 130 000 de ces décès auraient pu être évités. Parmi les quatre raisons principales citées, les détails de chacune, y compris le «manque de masque» et «induire le public en erreur», reflètent l’orgie de chaos épistémique déchaînée sur les filles et les fils américains.

C’est le monde dans lequel un micro-organisme mystérieux mortel a fleuri. Nous nous sommes tournés vers Facebook à la recherche d’informations. Au lieu de cela, nous avons trouvé des stratégies mortelles de chaos épistémique pour le profit.

Note traducteur: Voir aussi: La fabrique de l’ignorance ci-dessous:

Terrorisme épistémique

En 1966, Peter Berger et Thomas Luckmann ont écrit un petit livre d’une importance capitale, «La construction sociale de la réalité». Son observation centrale est que la «vie quotidienne» que nous vivons en tant que «réalité» est activement et perpétuellement construite par nous. Ce miracle permanent de l’ordre social repose sur la «connaissance de bon sens», qui est «la connaissance que nous partageons avec les autres dans les routines normales et évidentes de la vie quotidienne».

Pensez à la circulation: il n’y a pas assez de policiers dans le monde pour s’assurer que chaque voiture s’arrête à chaque feu rouge, mais toutes les intersections ne déclenchent pas une négociation ou une bagarre. C’est parce que dans les sociétés ordonnées, nous savons tous que les feux rouges ont le pouvoir de nous arrêter et les feux verts sont autorisés à nous laisser partir. Ce bon sens signifie que nous agissons chacun sur ce que nous savons tous, tout en ayant confiance que les autres le feront aussi. Nous n’obéissons pas seulement aux lois; nous créons de l’ordre ensemble. Notre récompense est de vivre dans un monde où nous arrivons la plupart du temps là où nous allons et rentrons chez nous en toute sécurité, car nous pouvons faire confiance au bon sens de l’autre. Aucune société n’est viable sans elle.

« Toutes les sociétés sont des constructions face au chaos», écrivent Berger et Luckmann. Parce que les normes sont des résumés de notre bon sens, la violation des normes est l’essence même du terrorisme — terrifiante parce qu’elle répudie les certitudes sociales les plus tenues pour acquises. «La violation des normes crée un public attentif au-delà de la cible de la terreur», écrivent Alex P. Schmid et Albert J. Jongman dans «Political Terrorism», un texte largement cité sur le sujet. Tout le monde vit le choc, la désorientation et la peur. La légitimité et la continuité de nos institutions sont essentielles car elles nous protègent du chaos en officialisant notre bon sens.

Note traducteur — cela va te plaire Alain Marie

La mort des rois et les transferts pacifiques de pouvoir dans les démocraties sont des moments critiques qui augmentent la vulnérabilité de la société. Les normes et les lois qui guident ces jonctions sont traitées à juste titre avec une gravité maximale. M. Trump et ses alliés ont poursuivi une campagne de désinformation contre la fraude électorale qui s’est finalement traduite par de la violence. Elle visait directement le point de vulnérabilité institutionnelle maximale de la démocratie américaine et ses normes les plus fondamentales. En tant que tel, il se qualifie comme une forme de terrorisme épistémique, une expression extrême du chaos épistémique. La détermination de M. Zuckerberg à prêter sa machine économique à la cause fait de lui un complice de cet assaut.

Image for post
Image for post
Crédit…Jeff Chiu / Associated Press

Comme le baseball, la réalité quotidienne est une aventure qui commence et se termine à la maison, là où nous sommes en sécurité. Aucune société ne peut tout contrôler à tout moment, encore moins une société démocratique. Une société saine repose sur un consensus sur ce qu’est un écart et ce qui est normal. Nous nous aventurons hors de la norme, mais nous connaissons la différence entre le champ extérieur et la maison, la réalité de la vie quotidienne. Sans cela, comme nous l’avons maintenant expérimenté, les choses s’effondrent. Les démocrates boivent du sang? Bien sûr, pourquoi pas? Hydroxychloroquine pour Covid-19? Par ici! Prendre d’assaut le Capitole et faire de M. Trump le dictateur? Ouais, nous avons ça!

La société se renouvelle à mesure que le bon sens évolue. Cela nécessite des institutions de discours social dignes de confiance, transparentes et respectueuses, surtout lorsque nous sommes en désaccord. Au lieu de cela, nous sommes aux prises avec le contraire, près de 20 ans dans un monde dominé par une institution politico-économique qui fonctionne comme une machine du chaos à louer, dans laquelle la violation des normes est la clé du revenu.

Les hommes, qui ne sont plus jeunes, défendent leurs machines du chaos dans les médias sociaux avec une interprétation tordue des droits du premier amendement. Les médias sociaux ne sont pas une place publique mais une place privée régie par les opérations des machines et leurs impératifs économiques, incapables et indifférents de distinguer la vérité du mensonge ou le renouvellement de la destruction.

Pour beaucoup de ceux qui considèrent la liberté d’expression comme un droit sacré, l’opinion dissidente du juge Oliver Wendell Holmes de 1919 dans Abrams c. États-Unis est une pierre de touche. «Le bien ultime souhaité est mieux atteint par le libre-échange des idées», écrit-il. «Le meilleur test de vérité est le pouvoir de la pensée de se faire accepter dans la concurrence du marché.» L’information corrompue qui domine la place privée ne s’élève pas au sommet d’une concurrence libre et loyale d’idées. Il gagne dans un jeu truqué. Aucune démocratie ne peut survivre à ce jeu.

Notre susceptibilité à la destruction du bon sens reflète une jeune civilisation de l’information qui n’a pas encore trouvé ses bases dans la démocratie. À moins d’interrompre l’économie de la surveillance et de révoquer le permis de voler qui légitime ses opérations antisociales, l’autre coup d’État continuera à se renforcer et à produire de nouvelles crises.

Que faut-il faire maintenant?

Trois principes pour la troisième décennie

Commençons par une expérience de pensée: imaginez un 20e siècle sans lois fédérales pour réglementer le travail des enfants ou affirmer des normes pour les salaires, les heures et la sécurité des travailleurs; aucun droit des travailleurs d’adhérer à un syndicat, de faire grève ou de négocier collectivement; aucun droit du consommateur; et aucune institution gouvernementale pour superviser les lois et les politiques destinées à rendre le siècle industriel sûr pour la démocratie. Au lieu de cela, chaque entreprise devait décider elle-même quels droits elle reconnaîtrait, quelles politiques et pratiques elle emploierait et comment ses bénéfices seraient répartis. Heureusement, ces droits, lois et institutions existaient, inventés par des gens pendant des décennies à travers les démocraties du monde. Aussi importantes que ces inventions extraordinaires demeurent, elles ne nous protègent pas du coup d’État épistémique et de ses effets anti-démocratiques.

Le déficit reflète un schéma plus large: les États-Unis et les autres démocraties libérales du monde n’ont jusqu’à présent pas réussi à construire une vision politique cohérente d’un siècle numérique qui fait progresser les valeurs, les principes et le gouvernement démocratiques. Alors que les Chinois ont conçu et déployé des technologies numériques pour faire progresser leur système de régime autoritaire, l’Occident est resté compromis et ambivalent.

Cet échec a laissé un vide là où la démocratie devrait être, et le résultat dangereux a été une dérive de deux décennies vers des systèmes privés de surveillance et de contrôle comportemental en dehors des contraintes de la gouvernance démocratique. C’est la route vers la dernière étape du coup d’État épistémique. Le résultat est que nos démocraties marchent nues dans la troisième décennie sans les nouvelles chartes des droits, les cadres juridiques et les formes institutionnelles nécessaires pour assurer un avenir numérique compatible avec les aspirations d’une société démocratique.

Nous sommes encore aux débuts d’une civilisation de l’information. La troisième décennie est l’occasion de rivaliser avec l’ingéniosité et la détermination de nos ancêtres du XXe siècle en jetant les bases d’un siècle numérique démocratique.

La démocratie est sous le genre de siège auquel seule la démocratie peut mettre fin. Si nous voulons vaincre le coup d’État épistémique, alors la démocratie doit être le protagoniste.

J’offre trois principes qui peuvent aider à guider ces débuts:

1. L’état de droit démocratique

Le numérique doit vivre dans la maison de la démocratie, non pas en tant que pyromane, mais en tant que membre de la famille, soumis à ses lois et ses valeurs et en prospérant. Le géant endormi de la démocratie remue enfin, avec d’importantes initiatives législatives et juridiques en cours en Amérique et en Europe. Aux États-Unis, cinq projets de loi détaillés , 15 projets de loi connexes et une proposition législative importante , chacun ayant une importance significative pour le capitalisme de surveillance, ont été présentés au Congrès de 2019 à la mi-2020. Les Californiens ont salué la législation historique sur la protection de la vie privée . En 2020, la sous-commission du Congrès sur le droit antitrust, commercial et administratif a publié une analyse approfondie de l’affaire antitrust contre les géants de la technologie. En octobre, le ministère de la Justice, rejoint par 11 États, a lancé une action antitrust fédérale contre Google pour abus de son monopole de recherche en ligne. En décembre, la Federal Trade Commission a déposé une plainte historique contre Facebook pour des actions anticoncurrentielles, accompagnée d’ une poursuite de 48 procureurs généraux. Celles-ci ont été rapidement suivies d’une poursuite intentée par 38 procureurs généraux contestant le moteur de recherche principal de Google en tant que moyen anticoncurrentiel de bloquer ses rivaux et de privilégier ses propres services.

Les arguments antitrust sont importants pour deux raisons: ils signalent que la démocratie est à nouveau en marche et ils légitiment une plus grande attention réglementaire aux entreprises désignées comme dominantes sur le marché. Mais lorsqu’il s’agit de vaincre le coup d’État épistémique, le paradigme antitrust échoue. Voici pourquoi.

Le virage à l’antitrust rappelle les pratiques anticoncurrentielles et les concentrations de pouvoir économique dans les monopoles de l’âge d’or. Comme Tim Wu, un champion antitrust, l’a expliqué dans le Times, «la stratégie de Facebook était similaire à celle de John D. Rockefeller à Standard Oil dans les années 1880. Les deux entreprises ont scanné l’horizon du marché, à la recherche de concurrents potentiels, puis les ont achetés ou enterrés. » Il a ajouté que «c’était précisément ce modèle d’entreprise que le Congrès avait interdit en 1890» avec le Sherman Antitrust Act.

Il est vrai que Facebook, Google et Amazon, entre autres, sont des capitalistes impitoyables ainsi que des capitalistes de surveillance impitoyables, mais la focalisation exclusive sur leur pouvoir monopolistique de type Standard Oil pose deux problèmes. Premièrement, l’antitrust n’a pas bien réussi, même selon les termes de ses procureurs de la fin du XIXe et du début du XXe siècle et leur objectif de mettre fin aux concentrations injustes de pouvoir économique dans l’industrie pétrolière. En 1911, une décision de la Cour suprême a divisé Standard Oil en 34 entreprises du secteur des combustibles fossiles. La valeur combinée des entreprises s’est avérée supérieure à l’original. Le plus grand des 34 avait tous les avantages de l’infrastructure et de l’échelle de Standard Oil et s’est rapidement déplacé vers des fusions et acquisitions, devenant des empires de combustibles fossiles à part entière, y compris Exxon et Mobil (qui est devenu ExxonMobil), Amoco et Chevron.

2. Un deuxième problème bien plus important avec les lois antitrust est que s’il peut être important de s’attaquer aux pratiques anticoncurrentielles dans les entreprises impitoyables, il ne suffit pas de s’attaquer aux méfaits du capitalisme de surveillance, pas plus que la décision de 1911 ne traitait des méfaits de la production de consommation. Plutôt que d’évaluer Facebook, Amazon ou Google à travers une lentille du XIXe siècle, nous devrions réinterpréter le cas de la Standard Oil du point de vue de notre siècle.

Une autre expérience de réflexion: imaginez que l’Amérique de 1911 comprenne la science du changement climatique. La décision de dissolution du tribunal aurait abordé les pratiques anticoncurrentielles de Standard Oil tout en ignorant l’affaire beaucoup plus conséquente — que l’extraction, le raffinage, la vente et l’utilisation de combustibles fossiles détruiraient la planète. Si les juristes et les législateurs de cette époque avaient ignoré ces faits, nous aurions considéré leurs actions comme une tache sur l’histoire américaine.

En effet, la décision du tribunal a ignoré les menaces beaucoup plus pressantes pour les travailleurs et les consommateurs américains. Un historien du droit américain, Lawrence Friedman, décrit le Sherman Antitrust Act comme «une sorte de fraude» qui n’a guère accompli que pour satisfaire des «besoins politiques». Il explique que le Congrès «devait répondre à l’appel à l’action — une action, n’importe quelle action — contre les trusts» et l’acte était leur réponse. A l’époque comme aujourd’hui, les gens voulaient un tueur géant.

Ils se sont tournés vers la loi comme la seule force capable de rétablir l’équilibre des pouvoirs. Mais il a fallu des décennies aux législateurs pour s’attaquer enfin aux véritables sources de préjudice en codifiant de nouveaux droits pour les travailleurs et les consommateurs. La National Labour Relations Act, qui garantissait le droit de se syndiquer tout en réglementant les actions des employeurs, n’a été promulguée qu’en 1935, 45 ans après la Sherman Antitrust Act. Nous n’avons pas 45 ans — ou 20 ou 10 — pour s’attarder avant de s’attaquer aux véritables torts du coup d’État épistémique et à leurs causes.

Il peut y avoir de bonnes raisons antitrust de briser les grands empires technologiques, mais diviser Facebook ou l’un des autres en équivalents capitalistes de surveillance d’Exxon, Chevron et Mobil ne nous protégerait pas des dangers clairs et actuels du capitalisme de surveillance.

Notre temps exige plus. De nouvelles conditions invoquent de nouveaux droits

De nouveaux droits légaux sont cristallisés en réponse aux conditions changeantes de la vie. L’engagement du juge Louis Brandeis en faveur du droit à la vie privée, par exemple, a été stimulé par la diffusion de la photographie et sa capacité à envahir et à voler ce qui était considéré comme privé.

Une civilisation démocratique de l’information ne peut pas progresser sans de nouvelles chartes des droits épistémiques qui protègent les citoyens contre l’invasion et le vol à grande échelle imposés par l’économie de la surveillance. Pendant la plus grande partie de l’ère moderne, les citoyens des sociétés démocratiques ont considéré l’expérience d’une personne comme inséparable de l’individu — inaliénable. Il s’ensuit que le droit de connaître son expérience a été considéré comme élémentaire, lié à chacun de nous comme une ombre. Nous décidons chacun si et comment notre expérience est partagée, avec qui et dans quel but.

Écrivant en 1967, le juge William Douglas a soutenu que les auteurs de la Déclaration des droits croyaient que l’individu devrait avoir la liberté de choisir lui-même le moment et les circonstances où il partagera ses secrets avec d’autres et décider de l’étendue de ce partage. Cette «liberté de choisir» est le droit épistémique élémentaire de nous connaître, la cause d’où découle toute vie privée.

Par exemple, en tant que détenteur naturel de ces droits, je ne donne pas à la reconnaissance faciale d’Amazon le droit de connaître et d’exploiter ma peur du ciblage et des prédictions comportementales qui profitent aux objectifs commerciaux des autres. Ce n’est pas simplement que mes sentiments ne sont pas à vendre, c’est que mes sentiments sont invendables parce qu’ils sont inaliénables. Je ne donne pas ma peur à Amazon, mais ils me la prennent quand même, juste un autre point de données dans les billions alimenté aux machines ce jour-là.

Nos droits épistémiques élémentaires ne sont pas codifiés dans la loi parce qu’ils n’ont jamais été menacés systématiquement, pas plus que nous n’avons des lois pour protéger nos droits de nous lever, de nous asseoir ou de bâiller.

Mais les capitalistes de la surveillance ont déclaré leur droit de connaître nos vies. Ainsi naît une nouvelle ère, fondée sur et protégée par la doctrine non écrite de l’exceptionnalisme de la surveillance. Désormais, le droit autrefois tenu pour acquis de savoir et de décider qui nous connaît doit être codifié dans la loi et protégé par des institutions démocratiques, s’il doit exister.

Des préjudices sans précédent exigent des solutions sans précédent

Tout comme les nouvelles conditions de vie révèlent la nécessité de nouveaux droits, les torts du coup d’État épistémique exigent des solutions spécifiques. C’est ainsi que le droit évolue, grandit et s’adapte d’une époque à l’autre.

En ce qui concerne les nouvelles conditions imposées par le capitalisme de surveillance, la plupart des discussions sur la loi et la réglementation se concentrent en aval sur des arguments concernant les données, y compris leur confidentialité, leur accessibilité, leur transparence et leur portabilité, ou sur des stratagèmes pour acheter notre acceptation de paiements (minimes) pour les données. En aval, nous discutons de la modération du contenu et des bulles de filtre, où les législateurs et les citoyens frappent du pied les cadres récalcitrants.

En aval, c’est là que les entreprises veulent que nous soyons, tellement absorbés par les détails du contrat immobilier que nous oublions le vrai problème, qui est que leur revendication de propriété elle-même est illégitime.

Quelles solutions sans précédent peuvent remédier aux torts sans précédent du coup d’État épistémique?

Tout d’abord, nous remontons l’approvisionnement, et nous arrêtons les opérations de collecte de données de surveillance commerciale. En amont, le permis de voler opère ses miracles incessants, utilisant des stratégies de surveillance pour faire tourner la paille de l’expérience humaine — ma peur, leur conversation au petit-déjeuner, votre promenade dans le parc — de l’or en données propriétaires. Nous avons besoin de cadres juridiques qui interrompent et interdisent l’extraction à grande échelle de l’expérience humaine. Des lois qui arrêtent la collecte de données mettraient fin aux chaînes d’approvisionnement illégitimes du capitalisme de surveillance. Les algorithmes qui recommandent, micro-ciblent et manipulent, et les millions de prédictions comportementales poussées par la seconde ne peuvent exister sans les billions de points de données qui leur sont fournis chaque jour.

Ensuite, nous avons besoin de lois qui lient la collecte de données aux droits fondamentaux et l’utilisation des données au service public, répondant aux véritables besoins des personnes et des communautés. Les données ne sont plus le moyen de la guerre de l’information menée contre des innocents.

3.Troisièmement, nous perturbons les incitations financières qui récompensent l’économie de la surveillance. Nous pouvons interdire les pratiques commerciales qui exigent une collecte de données rapace. Les sociétés démocratiques ont interdit les marchés de commerce d’organes humains et de bébés.

Les marchés de commerce des êtres humains étaient interdits, même lorsqu’ils soutenaient des économies entières.

Ces principes façonnent déjà l’action démocratique. La Federal Trade Commission a lancé une étude sur les médias sociaux et les entreprises de streaming vidéo moins d’une semaine après avoir déposé son dossier contre Facebook et a déclaré qu’elle avait l’intention de «lever le capot» des opérations internes «pour étudier attentivement leurs moteurs». Une déclaration de trois commissaires visait les entreprises de technologie «capables de surveiller et de monétiser… nos vies personnelles», ajoutant que «trop de choses sur l’industrie restent dangereusement opaques».

Des propositions législatives révolutionnaires dans l’Union européenne et en Grande-Bretagne, si elles sont adoptées, commenceront à institutionnaliser les trois principes. Le cadre de l’UE affirmerait une gouvernance démocratique sur les boîtes noires des opérations internes des plus grandes plates-formes, y compris une autorité d’audit et d’application complète. Les droits fondamentaux et l’état de droit ne se vaporiseraient plus à la cyber-frontière, les législateurs insistant sur «un environnement en ligne sûr, prévisible et fiable». En Grande-Bretagne, le projet de loi sur les dommages en ligne établirait un «devoir de diligence» juridique qui tiendrait les entreprises de technologie responsables des préjudices publics et inclurait de nouvelles autorités et pouvoirs d’application.

Deux phrases souvent attribuées au juge Brandeis figurent dans l’impressionnant rapport antitrust du sous-comité du Congrès. «Nous devons faire notre choix. Nous pouvons avoir la démocratie, ou nous pouvons avoir la richesse concentrée entre les mains de quelques-uns, mais nous ne pouvons pas avoir les deux. » La déclaration si pertinente à l’époque de Brandeis reste un commentaire piquant sur l’ancien capitalisme que nous connaissons, mais elle ignore le nouveau capitalisme qui nous connaît. À moins que la démocratie ne révoque le permis de voler et ne remette en question l’économie fondamentale et les opérations de surveillance commerciale, le coup d’État épistémique affaiblira et finira par transformer la démocratie elle-même. Nous devons faire notre choix. Nous pouvons avoir la démocratie, ou nous pouvons avoir une société de surveillance, mais nous ne pouvons pas avoir les deux. Nous avons une civilisation démocratique de l’information à construire et il n’y a pas de temps à perdre.

Auteure: Shoshana_Zuboff

DataGueule Suisse romande

Fan's club suisse de la gouvernance partagée durable et…

Sign up for Fan's #DataGueule depuis la Suisse romande

By DataGueule Suisse romande

Pour partager des tentatives de lucidités, un peu... Tu es welcome. Take a look.

By signing up, you will create a Medium account if you don’t already have one. Review our Privacy Policy for more information about our privacy practices.

Check your inbox
Medium sent you an email at to complete your subscription.

Pascal Kotté

Written by

Réducteur de fractures numériques, éthicien digital, Suisse romande.

DataGueule Suisse romande

Fan's club suisse de la gouvernance partagée durable et responsable, de la recherche de vérités, à travers le prisme des data-journalistes comme ceux de #DataGueule, mais non exclusivement ;-) Afin de mieux éclairer la construction de "Nice futures" (Suisse+France)

Pascal Kotté

Written by

Réducteur de fractures numériques, éthicien digital, Suisse romande.

DataGueule Suisse romande

Fan's club suisse de la gouvernance partagée durable et responsable, de la recherche de vérités, à travers le prisme des data-journalistes comme ceux de #DataGueule, mais non exclusivement ;-) Afin de mieux éclairer la construction de "Nice futures" (Suisse+France)

Medium is an open platform where 170 million readers come to find insightful and dynamic thinking. Here, expert and undiscovered voices alike dive into the heart of any topic and bring new ideas to the surface. Learn more

Follow the writers, publications, and topics that matter to you, and you’ll see them on your homepage and in your inbox. Explore

If you have a story to tell, knowledge to share, or a perspective to offer — welcome home. It’s easy and free to post your thinking on any topic. Write on Medium

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store