Designers Éthiques : Pour une prise en compte globale des impacts du design

Nous voici donc en mars 2018. Un an d’existence déjà pour les Designers Éthiques. Nouvelle année, nouvelles résolutions, nouveaux projets, etc. L’occasion pour nous de faire le point sur le chemin parcouru pendant ce temps-là.

En septembre 2016, nous nous lancions — Jérémie, Karl et Thibault avec l’aide de Bertrand — dans l’organisation de Ethics By Design. Nous étions intéressés par l’impact du design sur les utilisateurs de services numériques, on avait trouvé un joli nom et on avait un peu de temps à consacrer, alors pourquoi ne pas travailler sur le sujet ? Voilà une description à peine caricaturée du début de l’aventure. Certes, on aurait pu croire que — lanceurs d’alerte en puissance — nous nous lancions à bras le corps dans la lutte contre les GAFA et autres conglomérats américains après avoir douloureusement expérimenté leur mainmise sur notre psyché. Mais autant être honnêtes (éthiques si j’ose dire 😉), nous découvrions le problème que nous traitons aujourd’hui et c’est pourquoi notre vision évolue en même temps que notre sujet.

C’est important de le préciser car il nous est souvent utile de rappeler d’où nous venons — des étudiants en architecture de l’information de l’ENS de Lyon — pour comprendre comment notre mouvement s’est structuré et de quoi il traite. Ainsi, les Designers Éthiques se sont d’abord posés la question “qu’est-ce qu’un bon design ?”, ou plutôt qu’est-ce qu’un mauvais design ? Alors bien sûr, de nombreux designers avaient déjà répondu à cette question (comme ici ou ici) et ont élaboré des critères, des valeurs pour définir un bon design. Mais partant du principe que notre société et son économie a tendance à segmenter le design (on parle d’UX design, d’UI design, de design de service, de produit, d’espace) et à l’élargir à d’autres domaines (avec le design thinking ou le design sprint), il nous semblait nécessaire de requalifier les domaines de design pouvant poser des problèmes moraux, de prendre en compte ces nouvelles formes de design et leur impact sur nos sociétés.

À ce moment-là, nous sommes mi 2016. Une personnalité émerge alors au sein de la communauté du numérique, popularisant avec elle un nouveau concept. Il s’agit de Tristan Harris et du design de l’attention. En quelques mois, le design de l’attention devient LE nouveau problème du numérique, et de nombreuses initiatives s’élancent pour tenter d’en comprendre les sources et les possibles solutions. Et nous avec.

Conférence de James Williams (Time Well Spent) — Ethics By Design 2017 — © Flavien Auffret

Car le design de l’attention a comme intérêt (presque comme facilité) de rendre tangibles et concrets les problèmes du numérique : il se traduit en effet par des fonctionnalités que nous connaissons tous (les notifications, les fils d’actualité) tout en étant relié à des phénomènes déjà bien étudiées, les biais cognitifs. Son impact s’avère être plus matériel pour les utilisateurs que — par exemple — l’exploitation des données personnelles. “Personne sur son lit de mort regrette de n’avoir passé plus de temps sur Facebook” est a priori une phrase qui nous parle plus que les sermons répétés sur nos données personnelles et leur possible usage dans un avenir incertain à la 1984.

C’est pourquoi Ethics By Design, notre première conférence qui s’est tenue en mai 2017 à Lyon, a largement traité cette question du design de l’attention. Et pourtant, on se rend bien compte ici d’un glissement : celui du design éthique vers le design de l’attention. Ainsi, lorsqu’on parle désormais de design éthique (voire même de Ethics By Design, le titre de notre conférence), de plus en plus de personnes entendent “design respectueux de l’attention des utilisateurs”. Ce glissement, c’est donc souvent l’assujettissement du design éthique au design de l’attention, une vision que nous ne partageons pas mais que nous avons malheureusement peut-être contribué à partager.

Ce glissement qui s’opère pose donc une question plus fondamentale : c’est quoi le design éthique ? Et bien c’est à cette question que nous essayons de répondre depuis Ethics By Design, et nous vous proposons ici nos premiers éléments de réflexion.

Question n°1 : qu’inclue-t-on dans le design ?

En premier lieu, revenons sur le mot “design”, car son acceptation linguistique est loin d’être commune en France. Nous entendons le design dans son sens originel (bien défini sur la page Wikipédia qui y est consacrée d’ailleurs) et tel qu’entendu par les anglo-saxons, c’est à dire un processus de conception qui vise à répondre à un problème ou à un besoin, à améliorer une solution existante. En ce sens, nous nous intéressons peu à l’esthétique et à l’aspect artistique du design. Ce qui nous importe c’est comment et pourquoi les choses sont conçues comme telles.

Cette définition du design entraine plusieurs conséquences. En premier lieu, on ne se limite pas au monde du numérique, même si c’est celui qui nous touche le plus et qui induit probablement les changements les plus radicaux de nos sociétés.

Notre second point est plus un avertissement qu’une conséquence. Il s’agit de l’honnêteté intellectuelle dont il faut faire preuve quand on parle de design. Ainsi, on entend parfois dire qu’il faut aborder le design de manière inclusive, être ouvert sur le monde et faciliter les liens entre les personnes. Il va sans dire que nous adhérons à ces principes. Néanmoins, nous pensons que c’est un idéal largement fantasmé. Comme cela a bien été montré pour les villes où la volonté de mixité et d’inclusivité produit parfois les phénomènes inverses, annoncer que l’on produit un design inclusif est souvent l’arbre qui cache la forêt. En effet, si d’un côté on peut désigner aussi bien pour des personnes à mobilité réduite ou des mal-voyants, de l’autre côté nous appréhendons le design avec des valeurs qui sont occidentales et qui sont loin d’être partagées par l’ensemble du monde : une personne chinoise ou brésilienne n’a tout simplement pas le même regard que nous sur le monde et pourtant nous lui imposons les services que nous designons. Dire que l’on cherche à être inclusif voire universel, c’est souvent ne pas se rendre compte de l’impact de nos propres valeurs sur les services que l’on conçoit. Vous le sentez venir le rapport avec l’éthique ?

En troisième lieu, une définition du design au sens de la conception induit également l’idée que nous essayons de considérer la conception d’un produit (ou d’un service) dans son ensemble, et pas uniquement au travers d’un prisme particulier que pourrait être le design de l’attention ou la protection des données personnelles. Au même titre qu’acheter des pommes bio produites en Argentine ne revient à considérer qu’une partie du problème de la consommation alimentaire (le bio donc, mais pas le local), ne regarder que les problèmes de design de l’attention d’une application qui requiert votre localisation géographique en permanence revient à ne considérer qu’une partie des problèmes de la conception numérique. En effet, le traitement des données personnelles, l’environnement, la perception cognitive de l’utilisateur ou encore la transparence des algorithmes font partie d’un ensemble et nous semblent indissociables. Il s’agit là en réalité d’une manière de considérer le numérique proche de celle développée par le collectif Green IT sur la conception numérique responsable.

Ainsi, le design éthique n’est pas simplement le contre-pied du design de l’attention matérialisé par les remords de quelques cadres de l’industrie des nouvelles technologies californiennes.

Ce constat implique également que le processus de conception n’est pas l’unique affaire du designer. Bien sûr, il y a des designers dont c’est le métier, au sens où ce sont des professionnels du design. Mais dans le monde du numérique, si on pouvait encore parler “d’informaticien” il y a 15 ans, le processus créatif numérique que l’on connait aujourd’hui est segmenté en de multiples compétences et métiers : des graphistes, des ergonomes, des développeurs, des UX designers, des UI designers, des product owners, des scrum masters, des consultants, etc. Un phénomène bien illustré dans les deux premières minutes de cette vidéo de Pause Process consacrée au level designer dans le monde du jeu vidéo. Il n’y a bien souvent pas de designer dans une société, au sens d’une personne unique chargée de la conception d’un produit ou d’un service. Mais il y a une multitude d’intervenants plus ou moins engagés dans le processus et qui interviennent à différents moments de celui-ci. Et l’intitulé du poste de la personne qui encadre ce processus (quand il y en a une) s’appelle plus souvent product owner que designer.

Nous défendons le fait que chacun d’entre eux, au sein de sa spécialité, se doit d’être engagé dans une démarche éthique de designer. Ce point de vue, qui fera peut-être hausser le sourcil de certains “vrais” designers ou pourra paraitre idéaliste, nous semble pourtant indispensable si l’on ne veut pas que chacun se défausse de ses responsabilités sur un autre que lui : l’UX designer a une super idée ? Oui mais le responsable innovation le fait travailler sur des tâches d’UI. Le développeur pourrait travailler à l’optimisation du service ? Oui mais le product owner dit qu’il faut sortir le patch correctif au plus tard demain. Et plus globalement, il s’agit aussi d’une manière de répondre à cette autre question : “pourquoi faire de la conception responsable / du design éthique alors qu’il n’y a pas de vrai designer dans notre équipe ?” (autrement dit personne pour s’en occuper)

On le voit, le processus créatif est un tout, une œuvre la plupart du temps collective, et identifier la responsabilité de chacun n’est pas évident. Aussi, il est important de considérer le problème dans sa globalité.

Si l’on continue sur cette lancée, cela veut aussi dire qu’il ne faut pas se restreindre aux créateurs. On quitte ici définitivement le domaine des designers, mais nous pensons que l’éthique de l’entreprise doit elle-même être mobilisée. Sinon, ce serait comme reprocher le problème des pommes argentines non locales au pilote de l’avion qui les a transportées. Car c’est bien souvent le modèle économique d’une société qui induit l’économie d’un service et qui produit un design spécifique. Dans le cas du design de l’attention, on remarque que les sociétés qui en font usage (citons pour faire simple Facebook) sont largement dépendantes d’une économie de l’attention.

Bref, si le design est la conception du service (ou du produit), c’est à ceux qui conçoivent le service que l’on s’adresse en premier lieu quand on parle de design éthique. Il ne faut cependant ni surestimer la capacité de création d’un groupe de professionnels, ni stigmatiser leur action. Ainsi, nous essayons de trouver un équilibre fragile entre sensibilisation des créateurs, des décideurs et des utilisateurs.

Précisément ce en quoi nous ne croyons pas

Car il nous est apparu au fur et à mesure de nos réflexions qu’il était effectivement impossible de tendre vers un “design éthique” sans inclure l’utilisateur (ou le client, l’usager selon le service). De notre point de vue, nous ne sommes pas dans un monde machiavélique où le capitalisme assoiffé d’argent manipulerait les pauvres utilisateurs des systèmes numériques. En ce sens, le grand sujet de l’année 2016–2017 aura été les bulles de filtre et la transparence algorithmique, un domaine qui nous semble être partie intégrante d’un design éthique. De notre point de vue, la “faute” des algorithmes (les recommandations de pages de fake news, la création de bulles de filtre) ne peut pas être uniquement rejetée sur Facebook, Twitter et leurs équipes de designers et ingénieurs. Ces phénomènes existent sur d’autres réseaux non centralisés, comme les mails. Si, vous savez, la chaine de mail annonçant l’enlèvement de la petite Zoé et qu’il faut faire circuler pour la retrouver, ou celle qui cite subtilement un élu anonyme sur la liaison entre Emmanuel Macron et Mathieu Gallet. Sur ces réseaux distribués, c’est bien l’utilisateur, sans aucune aide extérieure, qui véhicule la nouvelle et amplifie sa bulle de filtre. Cela pose donc la question de sa sensibilisation.

Bien sûr, cela pose la question de la place du design (et du designer) dans le système capitaliste. Sommes-nous touchés par le “syndrome du designer” comme le définit Stéphane Vial dans son Court traité du design :

Sentiment de complicité avec le capitalisme, soumission coupable aux impératifs de la société de consommation, acceptation résignée de l’économie de marché, renoncement à l’idéal de transformation de la société.

Probablement, mais pas totalement. Il nous semble plus efficace — justement dans un idéal de transformation de la société — d’instiguer un changement au sein d’une “soumission aux impératifs de la société de consommation” qu’en dehors. Et c’est pourquoi nous cherchons à travailler aux côtés d’entreprises productrices de services pour que, par exemple, en attendant le grand soir du numérique, on puisse déjà quotidiennement améliorer la soirée des utilisateurs par les fonctionnalités de suspension des notifications.

Question n°2 : quelle morale défendons-nous ?

L’intégration de l’utilisateur dans la réflexion du design éthique permet de faire aisément la transition vers le deuxième aspect de notre démarche et qui doit vous paraitre être jusqu’à présent le grand absent de ce billet : l’éthique. En effet, “sensibiliser l’utilisateur” peut rapidement être entendu comme la stigmatisation de certains usages du numérique au profit d’autres, considérés comme plus valables, sensés ou moraux, et souvent non-numérique. Ce qui pose une question toute bête : qui sommes-nous pour juger des valeurs d’autrui ? Est-ce notre rôle d’imposer notre morale à l’utilisateur à travers nos actions ?

À première vue, on serait tenter de répondre non. En réalité, une attitude a-morale est une chose difficile pour un designer comme pour quiconque. Nous créons à partir de ce que nous connaissons, maitrisons et considérons déjà. Si bien qu’il apparait évident que nous véhiculerons bien sûr dans nos produits des valeurs morales — quelles qu’elles soient. Cependant, il nous semble important d’en avoir conscience, et si possible le plus tôt possible afin de ne pas, à l’instar des actuels repentis de la Silicon Valley, regretter la portée de nos actes.

Néanmoins, il s’agit là d’une définition très philosophique de l’éthique et qui ne décrit pas spécifiquement l’action que l’association mène. En ce sens, nous avons très vite perçu le caractère juridique inhérent à notre démarche, que nous avions pour autant du mal à qualifier. Nous traitons de sujets pour lesquels les cadres législatifs sont souvent vagues ou inexistants. La technique dépassant de vitesse la loi, celle-ci a du mal à couvrir tous ces nouveaux champs que sont le design de l’attention ou la transparence algorithmique. Ainsi, dès le début de notre aventure, nous avons également entendu le terme « éthique » comme une forme d’avant-garde législative. Le récent rapport sur l’éthique des algorithmes publié par la CNIL nous a confortés dans cette lecture : “l’éthique apparaît comme une éclaireuse du droit, la norme éthique une préfiguration de la norme juridique.

Ainsi, pour coller à notre approche globale de la conception numérique responsable, notre envie est désormais de voir se succéder à l’éthique des algorithmes (sujet du moment avec le rapport de la CNIL et de la commission de Cédric Villani), la question du respect de l’intégrité cognitive des utilisateurs du web, largement mise à mal par le design de l’attention et ses dérivés comme le design de persuasion.

Question numéro 3 : Ethics by design ?

Igor Galligo, membre du comité scientifique de notre conférence Ethics by Design et doctorant en philosophie du design, nous pointait il y a quelques temps un aspect fondamental de notre évènement : ethics by design. En effet, cette préposition à priori jolie et insignifiante résume à elle seule tout un pan de la difficulté du design éthique. Un point de vue enrichi ces derniers jours par le professeur René Robert — président de l’espace de réflexion éthique de la région Nouvelle-Aquitaine — avec qui nous avons eu une intéressante discussion à l’occasion d’une projection du documentaire de Gauthier Roussilhe “Ethics for Design”. Il pointait notamment le rôle fondamental que peut avoir le design dans la conception de produit favorisant le bien être de malades dans un contexte médical.

Il s’agit donc ici de l’indispensable distinction entre d’un côté l’éthique que l’on peut apporter aux designers dans la pratique de leur métier, ce que l’on peut qualifier de “Ethics for Design”, et de l’autre côté l’éthique apportée à divers domaines par les designers, c’est-à-dire “l’Ethics by Design”. Se distingue ainsi deux visions intéressantes. Celle d’une part d’une société prompte à penser le designer par son action comme vecteur d’une certaine éthique dans d’autres domaines. D’autre part, celle du designer qui se pose la question de l’impact de son rôle sur la société. Bref, tout le monde semble d’accord : le designer a bien un rôle actif. Il s’agit donc pour nous d’un point majeur qui reste à creuser pour déterminer de quelle manière on pourrait distinguer ce qui relève en réalité d’un bon design (c’est-à-dire un design qui respecte par exemple les principes de Dieter Rams ), de ce qui relève d’un design éthique, qui pourrait être un design favorisant de bons comportements, selon des valeurs morales ou légales qui restent à définir… Peut-être l’objet d’un futur article 😉.

À Designers Éthiques, on itère

S’il est une chose de sûr, c’est que nous ne sommes sûrs de rien (merci Socrate). Autrement dit, si vous souhaitez critiquer le propos développé dans cet article ou nous apporter votre point de vue, vous êtes plus qu’invité·e à le faire 😉. Notre objectif n’est pas d’imposer notre point de vue mais d’itérer à son propos !

Enfin, si vous souhaitez contribuer à nos côtés à développer le propos du design éthique, nous vous invitons à nous contacter ! Que ce soit pour organiser des évènements, en France ou ailleurs, ou pour initier des projets de recherche sur la question, sachez que nous sommes ouverts à toutes les propositions !