Ethics by design ?
--
A l’heure où les interfaces utilisateurs appareillent l’économie de l’attention, comment organiser la déprise ? La déconnexion est-elle le seul remède à l’exploitation de nos comportements ? Comment armer les questions éthiques que posent une conception qui cherche à développer des comportements compulsifs et addictifs ? Tels sont quelques-uns des enjeux de la conférence Ethics by Design, qui aura lieu le 12 mai 2017 à l’Ecole normale supérieure de Lyon et à laquelle la Fing s’associe.
Comment passer de l’économie de l’attention… à l’écologie de l’attention ?
“Ce que nous vendons à Coca-Cola, c’est du temps de cerveau humain disponible”, reconnaissait en 2004, Patrick Le Lay, PDG de TF1, en parlant du modèle d’affaire de la première chaîne de télévision. Une affirmation qui suscita une vaste polémique et qui permit à beaucoup de gens de prendre conscience des enjeux de l’économie de l’attention, cette contradiction entre une offre abondante d’information et la ressource rare du temps et de l’attention de chacun.
Or depuis 2004, ces questions n’ont cessé de s’accélérer, avec le développement des technologies de l’information, qui, des smartphones aux réseaux sociaux, ont profondément bouleversé notre paysage attentionnel. De la dénonciation de l’infobésité à celle de la désinformation, de l’incrimination de la distraction et du multitâche, aux sollicitations incessantes des notifications et alertes liées au développement d’un nombre toujours plus grand d’objets qui requiert instamment notre attention… les questions attentionnelles sont devenues une préoccupation de chacun et de tous dans leur rapport au quotidien à tous les objets et services technologiques. Sommes-nous confrontés à un échec de la conception ? Et si c’est le cas, comment y remédier ou organiser la résistance ?
La déconnexion ne suffit pas
La promotion de la déconnexion semble de plus en plus une réponse insuffisante pour nous déprendre des systèmes techniques, notamment parce qu’elle renvoie les utilisateurs à leur seule responsabilité. Or nous sommes confrontés à des outils qui sont conçus pour nous rendre accros et dépendants à leur utilisation. L’absence de maîtrise de soi ne relève donc pas de la seule responsabilité des utilisateurs, comme le montre par exemple l’exploitation de la réciprocité sociale, qui nous invite à liker ceux qui nous ont liké, à répondre à ceux qui nous ont parlé, à suivre ceux qui nous suivent, alors même que ces actions sont générées par les machines plus que par les utilisateurs… Face à la montée du développement de technologies addictives et compulsives, qui exploitent nos comportements eux-mêmes, la conception peut-elle faire l’économie d’une éthique ?
La conception de l’expérience utilisateur (UX) n’a cessé d’étendre le champ de l’économie de l’attention. Surveillés, tracés en permanence, les systèmes techniques appareillent notre attention, subvertissent et exploitent nos biais cognitifs et nos comportements. Alors que la prise en compte de l’expérience utilisateur souhaitait apporter un bénéfice à chacun d’entre nous, force est de constater qu’elle en apporte surtout aux entreprises et services qui exploitent et manipulent les biais comportementaux de leurs usagers.
A mesure que les machines développent et exploitent leurs capacités d’analyses, c’est à l’homme qu’on demande de développer des capacités à pouvoir les apprécier et les juger. Nous ne pouvons donc plus faire l’économie des questions d’éthique, de morale, de loyauté, d’équité que posent désormais la conception même des innovations technologiques.
Loyal by design
La question de l’éthique dans la conception de systèmes toujours plus complexes pose également la question de la distribution de la décision et de l’intégration de valeurs dans ces systèmes, à l’image des logiciels tricheurs de Volkswagen. Qui est responsable quand les systèmes complexes échouent ou dysfonctionnent ? Comment gérer les questions éthiques ? Quelles formes de régulation imaginer qui soient plus respectueuses de l’attention des utilisateurs, qui les aident à développer leurs propres objectifs plutôt que d’être contraints par ceux qui conçoivent les systèmes ?
La conférence Ethics by Design, vise à dresser un premier panorama des questions qui se posent. Comment aider les utilisateurs à reprendre la main ? Comment développer des outils qui aident les utilisateurs à atteindre leurs propres objectifs plutôt que ceux de leurs concepteurs ? Comment encourager des modèles d’affaires qui ne reposent pas sur la captation de l’attention des utilisateurs ? Comment promouvoir le respect de l’attention comme l’on promeut le respect de la vie privée des utilisateurs ? Comment sortir des flux d’incitations et de récompenses qui favorisent les comportements compulsifs et addictifs ? Comment favoriser une conception plus éthique de l’expérience utilisateur elle-même ? Peut-on promouvoir un design responsable, durable, qui ne cherche pas à exploiter nos vulnérabilités, mais nous redonne de la liberté ?
Pas de design sans éthique !
Telles sont quelques-unes des questions que cette conférence souhaite adresser le 12 mai 2017 à l’Ecole normale supérieure de Lyon. L’objectif est d’inviter utilisateurs, chercheurs, designers, ingénieurs, entrepreneurs, politiques et grand public à prendre au sérieux les questions d’éthiques inhérentes aux services et outils déployés par l’économie numérique. L’ambition de cette journée de conférence et d’ateliers est de publier un manifeste pour aider les concepteurs comme les organisations à prendre conscience de ces enjeux et commencer à documenter des bonnes pratiques et des modalités de régulation pour favoriser une conception de la déprise de nos outils et rendre de la liberté aux utilisateurs.
