Manipulateurs, voleurs de temps, dealers d’attention : les designers numériques sont-ils des monstres ?
Une interpellation éthique qui masque la portée humaniste du design numérique
La question éthique a fait irruption d’une curieuse façon dans la conception des produits et services numériques nés dans la Silicon Valley. A travers les enjeux de l’automatisation, de l’apprentissage profond et du ciblage publicitaire, elle questionne les pratiques et la posture des designers. Le pôle des industries de pointe situé dans la partie sud de la baie de San Francisco, que certains assimilent à une organisation criminelle, est mise en cause par ses repentis. Tristan Harris (ex-Google) en chef de file, ils ont jeté l’opprobre, en les désignant, sur YouTube, Facebook, Twitter, Instagram ou encore Snapchat. Ces services orchestreraient vicieusement la techno-dépendance pour servir leur modèle d’affaires et leurs profits capitalistes :
La technologie pirate nos esprits et la société. […]
Cette technologie taille en pièce notre réalité et notre vérité communes, ébranle constamment notre attention, ou nous fait nous sentir isolés, rend impossible la résolution des autres problèmes pressants du monde comme le changement climatique, la pauvreté et la polarisation [de la société].
Pour Tristan Harris, les technologies numériques (et les personnes qui les conçoivent) exploitent donc les faiblesses de l’esprit pour mieux le manipuler. Ses acteurs, d’après le Center for Humane Technology, “font partie d’un système destiné à nous rendre dépendants”. Cela, avec la complicité des designers, chargés d’imaginer des dark patterns et de mettre en œuvre d’autres techniques ésotériques (le persuasive design), afin de rendre dépendants les utilisateurs, détruire leur santé mentale, les relations sociales, et la démocratie.
Les designers sont mis en demeure de répondre sur leur responsabilité morale. Dans un acte d’autoflagellation, certains d’entre eux, comme Mike Monteiro s’exécutent dans la surenchère, en prétendant que les designers sont dotés d’immenses pouvoirs occultes qui leur permettent d’entrer dans l’esprit des utilisateurs pour leur dire quoi lire, sur quoi cliquer et quoi acheter. Monteiro préconise d’ailleurs de faire du design une profession réglementée, car placée entre de mauvaises mains, elle révélerait sa capacité mortifère. Pour obtenir son statut, le designer devrait donc suivre une formation appropriée et des cours d’éthique du design.
Cette croisade, relayée jusqu’en France, semble marquer davantage qu’une prise de conscience généralisée, un curieux procès en sorcellerie. Il faut d’urgence réfléchir à “un meilleur design”, en organisant des conférences un peu partout. En somme, à lire et à écouter ces critiques, les designers ne valent pas beaucoup mieux que les publicitaires marchands du fameux temps de cerveau disponible. Car ils auraient travaillé en connaissance de cause, polluant les usages, conscients (ou pas) de leur pouvoir de nuisance.
Un tel événement, n’a pourtant que les apparences d’une prise de conscience éthique. Les repentis et ceux qui les suivent dans ce courant critique commettent au moins quatre erreurs capitales. Tout d’abord, ils confondent valeurs éthiques et valeurs morales. Par ailleurs, ils n’ont pas bien pris connaissance des travaux déjà menés en sciences sociales et par la philosophie. Ils sous-estiment aussi la complexité des causalités dans les décisions prises par les designers. Enfin, la rhétorique complotiste de ces techno-sceptiques est dérangeante ; elle aboutit à une impasse.
Devant l’impératif et l’émergence du mot éthique, nous ne pouvions que nous réinterroger sur le sens précis des mots. Ce phénomène relève-t-il de la morale, de l’éthique, de la déontologie (professionnelle) ou des valeurs ? L’étymologie commune d’éthique et de morale (ethos / mos, mores, moralis) a-t-elle fini par brouiller le sens des mots et les discours ? L’éthique, c’est
“l’étude théorique des principes qui guident l’action humaine dans les contextes où le choix est possible” — Sylvain Auroux, Dictionnaire Encyclopédie Universelle de Philosophie, PUF, 1990
Le philosophe allemand Habermas nous enjoint à ce titre de ne pas confondre morale et éthique. La morale, elle, qui se veut de portée universelle, pose la question du Bien et du Mal dans le cadre d’un système de règles de conduite. C’est le cas précisément de la morale que relève les questions soulevées par les repentis de la Silicon Valley et non d’éthique. Cette confusion est dangereuse, elle pose en réalité un impératif moral et prescrit des comportements. L’éthique est une méthode, une façon de raisonner et non un ensemble de règles prescrites. C’est dans ce cadre que doivent être examinées la responsabilité du designer et ses valeurs.
Il est surprenant que ces discours ne s’appuient sur aucune référence sérieuse, scientifique ou philosophique. Pour toute légitimité, les repentis mettent en avant leur statut d’ancien rouage du système, puisqu’ils prétendent bien en connaître les secrets. Cette question de la responsabilité sociale, environnementale et morale a pourtant été largement discutée par les designers et les théoriciens. Victor Papanek et Vilèm Flusser ont développé cette approche théorique ; Gilbert Simondon a étudié le rapport éthique que les hommes entretiennent avec les objets techniques. Si cette réflexion avait été menée en connaissant ces textes, alors il serait envisageable de saisir les vraies sources de l’aliénation dont on accuse les technologies numériques d’être la cause. Flusser fait remarquer à juste titre que la science définit des normes qui guident l’activité intellectuelle mais qui ne sont jamais morales. Il devrait en être ainsi du design.
La description que le collectif de Tristan Harris dresse des pouvoirs des designers est particulièrement exagérée et simplificatrice. On oublie ici que le design numérique s’articule autour d’une multitude d’enjeux et de valeurs anthropologiques : sociaux, culturels, économiques, politiques, éthiques et technologiques. Ces enjeux sont fréquemment soulevés par Jean-Louis Frechin. Il existe aussi une histoire du design et des personnalités qui ont travaillé à en définir l’éthique, comme Dieter Rams.
Jon Kolko soulignait dans Thoughts on interaction design la difficulté de juger de la responsabilité du designer numérique. Celui-ci est pris, rappelle-t-il, dans une chaîne complexe de causalités. Il n’est pas seul à contribuer à la conception des produits et des services numériques. Si bien entendu le designer peut orienter l’usage du produit ou du service, il n’en maîtrise pas seul les choix techniques, la diffusion ou encore les usages effectifs et encore moins l’expérience qui en seront faits. Un nombre important de paramètres entre en jeu. Cela n’aboutit pas pour autant à rendre toute relative la responsabilité du designer, mais le “contrôle des esprits” par la technologie n’est pas orchestré par les entreprises de la Silicon Valley et encore moins par les designers.
Les critiques du mouvement incarné par Tristan Harris sont mises en scène dans une rhétorique très inquiétante, qui diabolise les entreprises tech. On y oppose une élite (Google, Amazon, Facebook, Apple, Microsoft), les ingénieurs et les designers, au “peuple” et à ses intérêts. Lorsqu’on lui demande si ces idées n’exploitent pas une rhétorique de la peur, Tristan Harris répond par l’expression “vérité dérangeante”. Cette manœuvre serait désignée en politique sous le terme de populisme. Sans compter les approximations qui sont lancées : “Je pense que des comparaisons historiques peuvent être faites avec des régimes autoritaires”, déclare Tristan Harris dans Le Figaro. Nous ne pensons pas que ce soit la bonne méthode.
Le design éthique des repentis de la Silicon Valley est au design ce que le puritanisme est à la vertu. Il est pourtant possible de dresser une critique constructive des technologies numériques.
A ceux qui pensent que la technique a déshumanisé l’homme, Gilbert Simondon répond que c’est l’homme, justement, qui a déshumanisé la technique. — Gilbert Simondon, “Du mode d’existence d’un penseur technique”, France Culture
