La Police et l’Oracle
Quand les forces de l’ordre se prêtent aux arts divinatoires… Quand la CIA investit dans une technologie testée sur les américains, puis exportée notamment en Chine.
Traduction d’un article de Mara Hvistendahl , vous trouverez la version originale ici:
Oracle se vantait que son logiciel était utilisé contre des manifestants américains. Puis il a emmené la technologie en Chine.
Pour vendre le logiciel Endeca, soutenu par la CIA, aux autorités chinoises, Oracle a vanté son utilisation à Chicago pour la police prédictive.
Alors qu’il aidait à planifier des manifestations massives à Chicago pour protester contre le sommet de l’OTAN de 2012, Matt McLoughlin savait qu’il se heurtait à une formidable force de police. Organisateur du mouvement Occupy de Chicago, il avait vu la ville dépenser des millions pour renforcer la sécurité. La police de Chicago a investi dans des équipements anti-émeutes. Elle a déployé un dispositif acoustique à longue portée controversé, une arme sonique qui émet un son strident et perçant. La police a nassé les manifestants qui s’opposaient au manque de financement des cliniques de santé mentale. Puis, peu avant le début du sommet de mai, les autorités ont arrêté trois personnes de l’entourage de McLoughlin, qui a découvert que le groupe avait été infiltré par des policiers en civil.
De plus, la police a également utilisé les médias sociaux comme une arme!
Alors que des dizaines de milliers de personnes envahissaient les rues de Chicago, portant des pancartes sur lesquelles on pouvait lire “FOOD NOT BOMBS” et “NO TO WAR AND AUSTERITY”, McLoughlin était l’un des nombreux organisateurs qui publiaient des mises à jour sur les deux comptes Twitter d’Occupy Chicago, donnant des informations sur les itinéraires prévus pour les marches et sur les endroits où les manifestants pouvaient trouver de la nourriture et un logement. Des documents récemment découverts montrent que nombre de ses tweets ont probablement été diffusés par un logiciel d’analyse de données financé par la CIA auquel la police a eu accès.
Selon les documents et les présentations vidéo, le CPD (Chicago Police Department) a utilisé un outil appelé Endeca Information Discovery, un produit du géant de la technologie Oracle, pour fusionner les dossiers de criminalité, les appels au 911 et d’autres informations de routine de la police avec les tweets des manifestants.
Oracle affirme qu’Endeca aide la police et d’autres organismes à donner un sens à des masses de données volumineuses. À l’instar du logiciel d’analyse gouvernementale Palantir Gotham, plus connu, le logiciel doit son essor à la fantasmagorique “guerre contre le terrorisme” et au soutien de la société de capital-risque In-Q-Tel de la CIA. Oracle a racheté Endeca en 2011.
Au plus fort des manifestations contre l’OTAN, la police aurait utilisé Endeca pour traiter 20 000 tweets par heure. Selon une conférence donnée en 2012 par Richard Tomlinson, qui a dirigé la gestion des produits Endeca pour Oracle, les tweets apparaissaient dans le logiciel une demi-seconde après leur publication et y restaient indéfiniment, même s’ils étaient supprimés. La police pouvait alors utiliser le logiciel pour repérer les tweets contenant des termes tels que “protestation”. Elle pouvait également trier les tweets en fonction de leur sentiment, c’est-à-dire que le logiciel repérait les tweets négatifs ou ceux qui semblaient en colère.
Neuf ans plus tard, l’exploration des médias sociaux par la police est très répandue, tout comme l’opposition à cette pratique. Outre le CPD, les documents d’Oracle et les présentations SlideShare publiées par d’anciens employés indiquent qu’Endeca a été utilisé par la police en Argentine, en Finlande et aux Émirats arabes unis, ainsi que par le California Department of Corrections and Rehabilitation.
Oracle est loin d’être la seule entreprise sur le marché. Lors des manifestations de George Floyd l’été dernier, la police s’est tournée vers Dataminr, un autre investissement d’In-Q-Tel, pour analyser les tweets des manifestants. Le CPD, qui travaille avec le Federal Bureau of Investigation au sein d’une équipe spéciale chargée de surveiller les médias sociaux, a également utilisé des logiciels d’exploration des médias sociaux fabriqués par Geofeedia, LexisNexis et Pathar. Dans tous les États-Unis, la police a intégré des images extraites des médias sociaux dans le moteur de reconnaissance faciale de Clearview AI.
Mais l’affaire d’Oracle a pris une tournure particulière : après avoir promu l’utilisation d’Endeca sur les manifestants de l’OTAN, Oracle a commercialisé le logiciel financé par la CIA pour qu’il soit utilisé par la police dans le monde entier — y compris en Chine, où son déploiement serait vraisemblablement en contradiction avec les intérêts de la CIA et où les utilisateurs des médias sociaux bénéficient de peu de protections en matière de libertés civiles pour les protéger des abus de la police.
The Intercept a précédemment fait état de dizaines de documents de l’entreprise montrant que des employés d’Oracle ont commercialisé le logiciel d’analyse de l’entreprise pour des projets de surveillance policière en Chine et dans d’autres régimes répressifs.
Lors d’une récente audition de la commission des affaires étrangères de la Chambre des représentants sur la Chine, le représentant Tom Malinowski, D-N.J., a cité Oracle comme exemple de la façon dont les entreprises américaines permettent la surveillance à l’étranger. En fait, plusieurs des produits qu’Oracle commercialise auprès de la police à l’étranger ont d’abord été testés aux États-Unis.
Parmi les produits qu’Oracle a mis en avant dans les documents relatifs à la Chine figure Endeca, qui permet à la police de visualiser des données et d’exploiter les médias sociaux. Les documents décrivent l’utilisation du logiciel par la police de Chicago comme un événement pionnier qui a ouvert la voie à l’adoption du logiciel par la police ailleurs.
Dans des jeux de diapositives en chinois, des employés d’Oracle ont vanté l’utilisation d’Endeca lors des manifestations de l’OTAN et par le gouvernement américain pour justifier l’adoption du logiciel par les autorités chinoises. Les documents mentionnent des projets de maintien de l’ordre et des sources de données spécifiques au gouvernement chinois, mais plusieurs diapositives semblent avoir été extraites de présentations destinées à un public américain, avec des traductions en chinois superposées à des blocs de texte en anglais. Deux diaporamas comportent même le logo du CPD. L’un d’eux vante l’utilisation d’autres produits Oracle par le ministère américain de la Sécurité intérieure.
Les documents qui commercialisent spécifiquement Endeca pour un usage policier en Chine datent de 2012 à 2014. Mais des documents ultérieurs en langue chinoise font la promotion de Big Data Discovery, un produit Oracle qui intègre toutes les fonctionnalités d’Endeca Information Discovery. Un diaporama de 2018 présenté par un ingénieur d’Oracle lors d’une conférence de développeurs en Californie décrit l’utilisation de Big Data Discovery, entre autres logiciels, par le bureau de la sécurité publique de la province de Liaoning. Un revendeur Oracle ayant des liens étroits avec le gouvernement chinois continue de vendre Endeca, selon une annonce récente sur le site d’Oracle.
Certains des supports marketing sont apparemment l’œuvre d’un ancien employé senior qui, tout en travaillant pour Oracle, occupait un poste de chercheur invité à la principale académie de police chinoise. Cet homme est décrit dans les documents comme ayant dirigé une équipe de personnes qui ont commercialisé les produits d’Oracle auprès de la police et des gouvernements du monde entier. Oracle a refusé de faire des commentaires pour cet article.
Oracle a précédemment nié avoir vendu directement des logiciels à la police chinoise dans le but explicite de passer au peigne fin les données des citoyens. Mais elle a confirmé que les jeux de diapositives, qui ont été hébergés sur son site Web en février, sont authentiques. Plusieurs de ces documents ont depuis été retirés. (The Intercept a créé des liens vers des versions archivées lorsque cela était possible).
“Oracle veut encaisser l’argent provenant de la fourniture d’outils aux agences de renseignement, mais veut ensuite faire valoir qu’elle n’est pas coupable de l’utilisation de ces outils”, a déclaré Jack Poulson, directeur exécutif de l’organisation à but non lucratif Tech Inquiry, qui a comparé les efforts de l’entreprise en Chine aux ventes de clouds de Google aux douanes américaines, à Israël et à l’Arabie saoudite. “Il est évident qu’une entreprise aimerait prendre tout l’argent qu’elle peut avec le moins de responsabilité possible. Mais pourquoi les laissons-nous faire ?”
L’Oracle du FBI et de l’Armée américaine!
Endeca a été fondée en 1999 à Cambridge, dans le Massachusetts, dans un couloir technologique parfois comparé à la Silicon Valley. Le logiciel de la société excellait dans l’analyse des données non structurées, c’est-à-dire des informations brutes qui ne sont pas organisées dans une base de données. Son lancement tombait à point nommé, le monde entrant bientôt dans l’ère du big data. La recherche sur le commerce électronique a été l’une des premières applications de la technologie, et les entreprises sont restées des clients importants. Endeca, dont le nom dérive d’un mot allemand signifiant “découvrir”, a reçu un coup de pouce supplémentaire de la “guerre contre le terrorisme”, qui a permis d’injecter des fonds pour accroître les pouvoirs de surveillance des agences de renseignement.
In-Q-Tel a annoncé un partenariat stratégique avec Endeca en 2003, l’année même de la création de Palantir. “Nous voyons des opportunités significatives d’étendre et d’appliquer leur technologie commerciale dans la poursuite d’une sécurité nationale renforcée”, a déclaré Gilman Louie, PDG d’In-Q-Tel, dans un communiqué de presse de l’époque. Selon Endeca, l’accord impliquait un investissement d’un montant non divulgué. Deux ans plus tard, la société de capital-risque financée par la CIA a annoncé un accord pour présenter Endeca à la Defense Intelligence Agency.
Endeca est devenu l’un des nombreux outils utilisés par les agences gouvernementales pour visualiser différents pools de données, par exemple en reportant les entrées de données sur une carte consultable. “Ce type d’interface est devenu la norme, même si Endeca n’est pas devenu un nom familier”, a déclaré Poulson. “C’est quelque chose dans lequel la communauté du renseignement américaine a continué à investir”.
Le logiciel Endeca a même été utilisé à Guantánamo Bay.
Une des premières réussites d’In-Q-Tel, Endeca a fini par gagner des clients au FBI, à l’U.S. Cyber Command et à l’armée, selon les dossiers de dépenses fédérales. Le logiciel a même été utilisé à Guantánamo Bay, la base militaire américaine de Cuba où les prisonniers capturés en Afghanistan et ailleurs ont été détenus et torturés. En 2008, la Joint Task Force Guantanamo, une unité militaire américaine hébergée sur la base, a passé un contrat avec une entreprise technologique pour la “maintenance d’Endeca”, selon les dossiers de dépenses. L’unité a payé pour l’assistance Endeca jusqu’en 2019 au moins. Certaines des transactions sont codées Operation Enduring Freedom, le nom officiel utilisé par le gouvernement américain pour la guerre en Afghanistan. Les anciennes offres d’emploi pour les développeurs de Guantánamo Bay décrivent “Endeca/Oracle Guided Search” comme une exigence.
Alors qu’Endeca gagnait des clients dans le domaine du renseignement et de la défense au début des années 2000, Oracle construisait sa base de clients dans le secteur de la police. La société est connue pour ses bases de données relationnelles, utilisées pour traiter de gros volumes de données. Les contrats accessibles au public montrent que l’un des principaux projets était le Citizen Law Enforcement Analysis and Reporting (CLEAR) du CPD, un entrepôt de données Oracle qui est aujourd’hui au centre d’une campagne menée par des militants pour effacer les données discriminatoires sur les immigrants et les personnes de couleur recueillies par les services de police.
Outre des millions d’enregistrements d’arrestations, CLEAR contient des données sur les membres présumés de gangs qui, selon les militants, ont été utilisées par la police à des fins de discrimination. “C’est raciste”, a déclaré Xanat Sobrevilla, un organisateur de Organized Communities Against Deportations à Chicago, l’un des groupes à l’origine de la campagne Erase the Database. “Quatre-vingt-quinze pour cent des noms sont des Noirs et des Latinos. Cela ne sert pas notre objectif de réduire la criminalité et d’assurer notre sécurité. Elle sert juste à justifier davantage de maintien de l’ordre et de brutalité.” Erase the Database a recensé des enfants âgés de 9 ans seulement qui étaient répertoriés dans la base de données.
“Ce que les Oracles du monde font, c’est essayer de jouer pour être la plateforme du maintien de l’ordre”.
En 2011, lorsqu’Oracle a racheté Endeca pour 1,1 milliard de dollars, les services de police américains s’intéressaient à la datasurveillance, dans laquelle les flux de surveillance et les données personnelles sont utilisés pour identifier les criminels potentiels ou les foyers de criminalité. Oracle prétend abriter la plus grande collection au monde de données personnelles de tiers, et elle est devenue l’une des nombreuses grandes entreprises technologiques à s’aventurer dans ce domaine délicat.
“Ce que les Oracle du monde font, c’est essayer de devenir la plateforme du maintien de l’ordre”, a déclaré Andrew Guthrie Ferguson, professeur de droit à l’American University et auteur de “The Rise of Big Data Policing : Surveillance, Race, and the Future of Law Enforcement”. “Le calcul est le suivant : ‘Nous avons toutes ces données personnelles. La police a besoin de données personnelles. Nous savons comment faire de l’analyse de données, et nous le faisons dans le domaine des entreprises. Et si nous passions à l’espace gouvernemental ? Ne serait-ce pas génial ?”
Parce que les grandes entreprises technologiques comme Oracle offrent une grande variété de technologies, leurs incursions dans le domaine du maintien de l’ordre sont plus difficiles à suivre que celles d’entreprises plus spécialisées comme Palantir. Mais leur travail n’en est pas moins préoccupant, selon M. Ferguson. “Il faut tirer la sonnette d’alarme lorsque les grandes technologies pénètrent dans l’espace du maintien de l’ordre, parce que cela prend deux formes de pouvoir non réfléchi — les grandes technologies et le maintien de l’ordre — et les met ensemble.”
La présentation d’un employé d’Oracle a décrit l’utilisation du logiciel de la société pour la police prédictive à Chicago. Les données sur la criminalité et même la météo alimentent un modèle qui “calcule la probabilité d’un crime ou d’un incident” dans un avenir proche.
À Chicago, l’acquisition d’Endeca par Oracle est intervenue dans un contexte de paranoïa policière liée au mouvement Occupy. Le CPD semble être l’un des premiers services à utiliser le logiciel pour exploiter les médias sociaux. Un livre blanc d’Oracle qualifie l’adoption d’Endeca par le CPD d’exercice de “proof of concept” et affirme qu’Endeca a aidé la police à repérer les menaces pendant les manifestations. Selon le livre blanc, en “combinant les informations des médias sociaux [sic] avec les informations du département 911 et du déploiement des forces, les agents ont pu être rapidement redéployés pour répondre de manière préventive à l’évolution des menaces”.
Alors que les manifestations étaient en cours, Tomlinson, l’ancien employé d’Oracle, a tweeté des mises à jour. Le 20 mai 2012, le jour même où la police a fait l’objet d’un examen minutieux pour avoir frappé des manifestants avec des matraques, il a tweeté qu’Endeca traitait 8 000 tweets par heure. Un jour plus tard, il a déclaré que le trafic était passé à 20 000 tweets par heure.
Le logiciel permet à la police de trier les messages par score d’influence, de filtrer les sentiments “négatifs” et de cibler des comptes d’utilisateurs spécifiques.Quelques mois plus tard, Tomlinson a présenté ses conclusions.
Tout en donnant l’impression de cliquer sur les données réelles des manifestations, il a montré comment la police pouvait utiliser Endeca pour effectuer des recherches ciblées, identifier les utilisateurs par lieu et puiser dans les informations de 15 000 incidents ingérés par le NCC (National Counterterrorism Center). Le logiciel permet à la police de trier les messages par score d’influence, de filtrer les sentiments “négatifs” et de se concentrer sur des comptes d’utilisateurs spécifiques, a-t-il expliqué, notant : “Vous pouvez commencer à chercher dans les données en fonction de tout ce qui peut vous intéresser, comme le mot “protestations””.
Tomlinson n’a pas répondu aux demandes de commentaires.
Dans une autre conférence, également donnée en 2012, Tomlinson a déclaré qu’en plus d’exploiter les messages des médias sociaux, le CPD pouvait utiliser Endeca pour exploiter des années de rapports d’incidents criminels géolocalisés et de notes d’arrestation.
Un ensemble de données contenait 4,8 millions d’incidents à Chicago. Tomlinson a montré comment, en quelques étapes, la police pouvait se concentrer sur seulement 12 incidents intéressants. Palantir a fait des déclarations similaires sur son logiciel.
Un document étiqueté “CONFIDENTIEL” présente Endeca comme l’un des nombreux produits Oracle pouvant aider la police chinoise à mettre en œuvre un système d’”alerte en temps réel” et à effectuer des analyses linguistiques et comportementales.
Un diaporama d’Oracle préparé pour un public chinois affirme que le CPD a également utilisé Endeca et d’autres logiciels pour prédire les crimes dans une fenêtre de trois jours, en se basant sur la météo, le nombre d’appels d’urgence et les chiffres des arrestations, entre autres données.
Les spécialistes affirment que de tels calculs ne font que renforcer les préjugés de la police. Cela devient une boucle de rétroaction, où les données indiquent à la police de continuer à patrouiller, à arrêter et à surveiller les mêmes personnes et les mêmes quartiers qu’elle a toujours patrouillés, arrêtés et surveillés”, explique Andy Clarno, qui coordonne le groupe de recherche sur le maintien de l’ordre à Chicago de l’Université de l’Illinois à Chicago et participe à l’initiative “Erase the Database”. “Et pourtant, cela apparaît comme si c’était en quelque sorte objectif et basé sur les mathématiques, plutôt que fondé sur une longue histoire de pratiques racistes.”
Poussée des ventes en Chine
Oracle décrit Endeca comme un outil presque magique qui pourrait conduire à des percées dans les enquêtes. Un document d’Oracle indique qu’Endeca permet de combler les lacunes en matière de renseignement — ce que l’ancien secrétaire à la Défense Donald Rumsfeld a appelé de façon célèbre les “inconnus inconnus”.
Dans un exposé, Tomlinson décrit la plate-forme comme un moyen pour la police de sentir les activités suspectes, sans avoir de suspect ou d’incident en tête.
“Ils ne savent pas quelles questions ils ont en amont, ce qu’ils veulent demander aux données — alors ils commencent juste à appuyer sur la recherche, ils commencent juste à appuyer sur le guide nav, commencent à forer, et les choses apparaissent.”
C’est une affirmation alarmante, disent les défenseurs des libertés civiles. Passer au crible les données et les messages des médias sociaux dans l’espoir de trouver des “inconnus” ressemble plus à une surveillance au moyen de filets qu’à une tactique d’enquête ciblée et responsable”, a déclaré Matthew Guariglia, analyste politique à l’Electronic Frontier Foundation, qui se concentre sur la surveillance et le maintien de l’ordre. “Il est irresponsable et imprudent, du point de vue des libertés civiles, de collecter une grande quantité de données dans l’espoir que quelque chose dans la pile sera une ligne d’enquête précisément ‘inconnue’.”
On ne sait pas combien de temps la police de Chicago a continué à utiliser Endeca et si elle l’utilise encore aujourd’hui. Le CPD n’a pas répondu à une demande de commentaire pour cette histoire.
Face à la colère croissante suscitée par les meurtres de policiers, plusieurs entreprises technologiques ont tenté de minimiser leur collaboration avec la police américaine ; Oracle s’en vante ouvertement. “Nous sommes fiers de notre partenariat avec les forces de l’ordre”, a déclaré Ken Glueck, vice-président exécutif d’Oracle, à The Intercept lors d’une interview en avril, ajoutant que, dans certains cas, Oracle transporte ces mêmes produits à l’étranger. “Cela ne devrait surprendre personne que si vous avez réussi quelque chose à un endroit, vous allez commercialiser cette réussite ailleurs.”
“Cela ne devrait surprendre personne que si vous avez réussi quelque chose à un endroit, vous allez commercialiser cette réussite ailleurs.”
Glueck et d’autres ont essayé d’éloigner l’entreprise des rapports de collaboration avec les autorités en Chine. Là-bas, le marketing d’Oracle contredit l’image que les dirigeants ont essayé de cultiver en tant que serviteurs patriotiques du gouvernement américain. (L’année dernière, cette image a permis à Oracle et à Walmart d’écarter leurs rivaux dans une tentative de contrôle des opérations américaines de TikTok, la société de médias sociaux appartenant à la Chine, un accord qui est maintenant dans les limbes). Pourtant, des documents montrent qu’après avoir testé le logiciel sur les manifestants de l’OTAN, le géant de la technologie l’a également commercialisé pour qu’il soit utilisé par la police.
En Chine, un jeu de diapositives portant la mention “CONFIDENTIEL” fait la promotion d’Endeca pour une utilisation dans le cadre d’un projet provincial de “cloud policier”, un effort visant à centraliser les données de la police qui a de sérieuses implications pour les droits de l’homme. Le document recommande Endeca comme l’un des nombreux produits Oracle bien adaptés à l’analyse du comportement et de la langue et à un système d’”alerte en temps réel”. Une deuxième présentation destinée au gouvernement chinois montre des médias sociaux et d’autres données alimentant Endeca et d’autres logiciels Oracle.
Plusieurs documents de présentation mentionnent Siebel, un autre produit Oracle largement utilisé par les clients du gouvernement et de la défense des États-Unis. Ils vantent également l’utilisation de la technologie d’Oracle ou de ses partenaires pour la reconnaissance vocale, faciale et des plaques d’immatriculation, ainsi que pour l’analyse des métadonnées téléphoniques.
En avril, The Intercept a rapporté qu’Oracle travaille avec des revendeurs ayant des liens étendus avec le gouvernement chinois. L’un de ces partenaires d’Oracle, Great Wall, nomme Endeca dans une liste récente de ses offres sur le site d’Oracle. Un autre partenaire proche d’Oracle, Digital China, vend Siebel.
Safra Catz, PDG d’Oracle, siège à la Commission de sécurité nationale sur l’intelligence artificielle, une initiative soutenue par le ministère de la Défense visant à maintenir la domination des États-Unis. Lors d’un débat en avril, elle a qualifié l’utilisation de l’IA par le gouvernement chinois à des fins de surveillance d’”antithétique à nos valeurs”.
Le parcours d’Endeca contredit radicalement cette affirmation. Comme d’autres grandes entreprises technologiques avant elle, Oracle a exporté des outils invasifs d’abord testés aux États-Unis. Le système chinois est simplement ce qui se passe lorsqu’il y a peu de contrôles sur la surveillance, une situation qui sert parfaitement les entreprises motivées par le profit.
