Pour une « éthique » pluraliste « de l’intelligence artificielle »

L’IA nous fait entrer dans l’ère de la « personnalisation de masse », mais les systèmes de ciblage restent très subjectifs, met en garde l’expert financier Matthieu Sénéchal dans une tribune au « Monde ».

LE MONDE | 19.09.2018 à 14h45 | Par Matthieu Sénéchal (Cofondateur de mieuxplacer.com, site de placement financier)

Tribune. Orientation universitaire, prêts bancaires : l’intelligence artificielle (IA) est au cœur de plus en plus de décisions individuelles. En témoignent les bacheliers qui ont passé l’été suspendus aux caprices de Parcoursup, sans y comprendre grand-chose. En effet, le système technique qui sous-tend l’IA a tout d’une boîte noire, dont émergeraient des oracles débarrassés de tous les aléas humains. Or, il n’en est rien.

En 2015, des chercheurs de Carnegie Mellon ont découvert que dans les offres d’emplois sponsorisées par Google Ad, la grille de salaire proposée pouvait différer selon que vous êtes un homme ou une femme. En fonction de la couleur de votre peau, les logiciels de reconnaissance faciale auront plus ou moins de facilité à vous identifier.

Les algorithmes sont empreints des stéréotypes de ceux qui les conçoivent. Les développeurs définissent pour un système donné les réactions attendues dans différentes configurations, en fonction de leurs valeurs et de ce qu’eux-mêmes s’attendent à observer.

Le technicien aux commandes

Le processus est biaisé depuis ses prémices. Dans le cas où la conception ne se fait pas ex nihilo, l’arbitraire n’est jamais loin non plus. On recourt alors à l’apprentissage de comportements fondés sur des données historiques… mais pas forcément représentatives ! Dans le cas de la reconnaissance faciale, si la base de données qui fait référence contient plus de visages d’hommes blancs que d’autres types de visage, l’algorithme sera tout aussi empreint de ce biais.

En 2000, le juriste américain Lawrence Lessig écrivait dans son article « Code is law » que c’est le code qui façonne le cyberespace, définit son architecture, et au-delà, nos fondamentaux de liberté. Deux choses ont changé depuis. D’une part, depuis l’essor d’Internet et l’avènement des smartphones, le cyberespace n’est plus une entité séparée du monde réel.

Le danger d’un nouveau positivisme…

Originally published at www.lemonde.fr on September 19, 2018.