Une innovation responsable et durable pour construire le monde de demain
— EDITO. Rappel des enjeux de l’innovation responsable et durable par Christine Balagué, Professeur, Institut Mines-Télécom Business School, Titulaire de la chaire Good in Tech et membre du Conseil d’Administration de Cap Digital.
La course à l’innovation technologique génère depuis quelques années une prise de conscience sur leurs effets potentiellement négatifs sur l’environnement et la société.
L’impact des technologies n’est pas un sujet nouveau. Il a émergé d’abord par l’analyse des conséquences du développement des entreprises les plus innovantes dans le monde (en particulier certaines du Top10[1] en 2020: Google, Amazon, Microsoft, Huawei, Alibaba, IBM, Facebook). Citons quelques problèmes posés, aujourd’hui bien documentés : la domination de ces géants du numérique et les enjeux de concurrence ; le modèle bi-face des plateformes numériques, fondé sur la gratuité du produit permettant une captation massive de données; leur faible taxation ; la diffusion massive de fake news déstabilisant nos démocraties; la protection des données.
Plus récemment, de nombreux travaux, en particulier de chercheurs, ont mis en avant d’autres conséquences importantes des innovations technologiques. On peut les regrouper en deux catégories principales : l’impact environnemental et l’impact sociétal.
Le numérique pourrait en 2040 constituer 7% des émissions de gaz à effet de serre en France versus 2% actuellement
L’enjeu de l’impact des technologies numériques sur l’environnement (4% des émissions de gaz à effet de serre aujourd’hui au niveau mondial) est sa croissance future si on ne fait rien. Selon un rapport du Sénat en 2020, le numérique pourrait en 2040 constituer 7% des émissions de gaz à effet de serre en France versus 2% actuellement. Par ailleurs, même si on sait que la fabrication des équipements est celle qui contribue le plus aux émissions à effet de serre (39% des émissions GES), la prévision du nombre d’objets connectés dans le monde en 2025 est de 75 milliards, soit plus du double des 30 milliards aujourd’hui, (selon Statistica). En 2019, les chercheurs Strubell, Ganesh et McCallum de l’Université du Massachusetts Amherst, ont aussi montré que l’apprentissage de modèles d’intelligence artificielle de NLP (Natural Language Processing) a un impact carbone cinq fois plus élevé que les émissions d’une voiture américaine durant l’ensemble de son cycle de vie.
Il est donc temps d’agir.
Les impacts des technologies numériques sur la société sont tout aussi importants. La sociologue américaine Virginia Eubanks[2] a montré que l’automatisation des systèmes automatise en même temps les inégalités entre les individus. Les recherches ont aussi souligné que les différents biais de données dans les algorithmes peuvent entraîner des effets de discrimination sur des populations, dans des domaines d’applications comme la santé, la justice ou le recrutement par exemple. Citons en santé les travaux du chercheur Obermeyer et de ses collègues, qui ont publié en 2019 un article dans la revue Science, montrant que l’un des algorithmes largement utilisé aux Etats-Unis pour l’accès aux soins discrimine les populations noires versus blanches, et qu’une correction du problème entraînerait un pourcentage de patients noirs accédant aux soins médicaux qui passerait de 17,7% à 46,5%. Il est désormais connu que certains algorithmes peuvent aussi intégrer des opinions, par exemple celles du data scientist à l’origine du code, ou celles plus largement du système socio-technique dans lequel il se trouve (son entreprise, les valeurs de celle-ci, les écosystèmes plus larges de l’entreprise). Un exemple simple est la présence de voix féminine dans la plupart des agents conversationnels, suggérant que les femmes seraient plus au service des autres que les hommes. Enfin, l’opacité des technologies et des algorithmes présente aussi des risques de manipulation des individus. Un exemple à fort impact: les fake news ou les deep fakes, fausses informations qui circulent sur les réseaux sociaux, et la désinformation en ligne, qui déstabilisent les démocraties, en particulier dans les périodes électorales.
Dans ce contexte, l’enjeu de l’innovation numérique responsable et durable devient majeur. Le concept d’innovation responsable n’est pas nouveau. Les chercheurs Stilgoe, Owen et Macnaghten ont publié en 2013 un article définissant quatre critères d’innovation responsable : l’anticipation des conséquences de l’innovation; la réflexivité des acteurs et des institutions; l’inclusion de toutes les parties prenantes (grand public inclus); la réactivité aux changements (régulation, retour utilisateurs).
Mais l’innovation technologique et ses conséquences nous demande aujourd’hui d’aller plus loin, en repensant l’innovation et la technologie comme moteurs d’un monde meilleur pour et par l’humain.
Le premier enjeu d’une innovation numérique responsable et durable est de limiter l’impact environnemental du numérique. La première étape est de mesurer l’impact environnemental de l’innovation technologique, avec des indicateurs fiables et récurrents. La deuxième est d’avoir une approche de plus grande sobriété numérique. Citons quelques actions possibles : usage de technologies low tech ; stockage des données dans des serveurs peu consommateurs d’énergie (certaines solutions deviennent le cœur du produit de certaines start ups comme Datafarm par exemple); limiter l’impact carbone des algorithmes d’apprentissage en intelligence artificielle ; imposer ces critères dans les appels d’offre aux sous-traitants technologiques et dans les marchés publics.
Le deuxième enjeu d’une innovation numérique responsable et durable est de mesurer l’impact sociétal positif de l’innovation et de limiter son impact sociétal négatif. Sur l’impact sociétal positif, le courant Tech for Good est très actif, regroupant des innovations dont le positionnement même est de répondre à des enjeux sociaux ou environnementaux. Cependant, des mesures de ces impacts sociétaux positifs restent nécessaires, même si certains critères sont parfois mis en avant par les acteurs Tech for Good. En ce qui concerne l’enjeu de limitation des effets sociétaux négatifs des technologies, on peut prendre l’exemple de l’intelligence artificielle. Sur les deux dernières années, plusieurs organisations internationales ont publié dans leur rapport un cadre avec des critères à respecter (commission européenne, OCDE, UNESCO). Une communauté internationale de chercheurs dans différentes disciplines (informatique, management, sociologie, philosophie, droit) est très active sur ces enjeux éthiques de l’IA avec des avancées notamment sur l’interprétabilité, l’explicabilité, l’auditabilité et la « fairness » des algorithmes, ainsi que les enjeux de privacy et de régulation. En revanche, certains critères sont souvent moins mis en avant, comme l’enjeu des inégalités générées par l’innovation technologique, ou encore la prise en compte du critère inclusivité.
Aujourd’hui, les critères de RSE portent essentiellement sur le développement durable, la diversité, ou encore le bien-être au travail, mais quasiment aucun critère ne porte sur la responsabilité des entreprises dans leur innovation technologique
Face à ces deux enjeux environnementaux et sociétaux de l’innovation technologique, il est nécessaire de développer des indicateurs précis pour une démarche d’innovation responsable et durable. Sur l’enjeu environnemental, il en existe déjà plusieurs, mais ils restent à affiner sur des critères précis plus techniques. En ce qui concerne l’enjeu sociétal de l’innovation, des mesures de la contribution sociétale d’une technologie (positive et négative) sont nécessaires.
Enfin, une fois ces indicateurs environnementaux et sociétaux de l’innovation mesurés, la dernière étape d’une innovation numérique et durable est d’intégrer ces critères dans la RSE (Responsabilité Sociale d’Entreprise). En effet, aujourd’hui, paradoxalement, les critères de RSE portent essentiellement sur le développement durable, la diversité, ou encore le bien-être au travail, mais quasiment aucun critère ne porte sur la responsabilité des entreprises dans leur innovation technologique, alors que celle-ci bouleverse en profondeur les produits et services comme les métiers au sein de l’entreprise.
L’innovation sera structurante pour notre société numérique de demain. Plusieurs futurs sont possibles, mais le contexte mondial actuel et les enjeux climatiques rendent plus que jamais indispensable la vision d’une innovation responsable et durable. En créant un écosystème d’interactions entre les institutions académiques, la recherche, les entreprises, les étudiants, la société civile et les décideurs politiques, la chaire Good in Tech contribue à porter cette vision, en travaillant en particulier sur les indicateurs nécessaires à une innovation plus responsable et durable.
[1] Rapport 2020 Boston Consulting group sur les entreprises les plus innovantes dans le monde
[2] Viriginia Eubanks, Automating Inequalities
