Quelle éthique pour une approche ouverte et communautaire de l’utilisation des big data en santé ?

Par Jérôme Béranger

[Livre blanc | Partie III, Article 2]


L’éthique du numérique se traduit par des questionnements, d’une part, sur le comportement et l’usage des individus face au digital, et d’autre part, sur le comportement de plus en plus autonome des outils technologiques en tant que tels. Dès lors, dans le contexte des big data en santé, l’éthique constitue un mode de régulation des comportements basé sur le respect de valeurs humaines que l’on juge essentielles, ainsi que sur un cadre moral pour l’utilisation des données numériques.


Ya-t-il une éthique propre au numérique ? Cette question revient régulièrement et fait débat, tellement il apparaît non naturel d’associer une science humaine à une science technologique que presque tout oppose. Et pourtant, le numérique crée de toute part des injonctions contradictoires qui ont par conséquent des répercussions éthiques spécifiques aux Nouvelles Technologies de l’Information et la Communication (NTIC). Si les big data sont éthiquement neutres, leur usage ne l’est pas, d’où la nécessité pour Epidemium d’établir un cadre et une charte éthique pouvant répondre à tous les projets émergeant dans le programme utilisant les données potentiellement très différentes les unes des autres. En effet, des comportements singuliers naissent des usages de ce nouvel espace-temps que génère le numérique. Les NTIC sont un phénomène culturel voire anthropologique. Ils produisent de nouveaux comportements, de nouvelles visions du monde, et de nouvelles normes sociales.

On peut prendre l’exemple de l’anonymisation qui pose la question de la responsabilité des personnes dont l’invisibilité peut dédouaner de certaines règles de bienséance. L’instantanéité et l’ubiquité que permet l’Internet répercutent nos actes de parole et de pensée de manière conséquente et irréversible. Désormais, l’éthique et la technologie ne doivent plus être mises en relation selon un dispositif à deux étapes. Les questions éthiques doivent faire partie intégrante de leur mission et ainsi construire une réflexion éthique orientée. Dès lors, on ne parle plus d’une approche interdisciplinaire mais plutôt d’une fusion aboutissant à une véritable éthique du numérique où la question des implications sociales et morales s’intègre dans les NTIC.

Dans ces conditions, il devient essentiel d’établir des attentes et des préconisations éthiques spécifiques au monde numérique et de réifier des nouveaux systèmes de valeurs d’éthique et de morale, en gardant toujours en tête cette question : est-ce que le numérique peut induire un risque de mésusage de nos comportements éthiques ?

Depuis quelques années, l’open data s’affirme comme un terrain de développement important du big data car les données qu’il porte sont considérées comme fiables, intègres, nettoyées de leurs imperfections, ce qui répond à l’enjeu récurrent de qualité des données (Hamel et Marguerit, 2013). C’est la raison d’être des programmes comme Epidemium, qui se sont donnés pour ambition d’utiliser le big data dans un cadre ouvert et partagé afin de produire des résultats de qualité, basés sur la force de la pluridisciplinarité.

Cette pratique consiste à rendre accessible à tous, facilement et gratuitement (sans restriction juridique, technique, ou financière), des données numériques, élaborées par une institution publique ou une collectivité. Cette liberté d’accès et d’ouverture à l’utilisation par des tiers s’intègre donc dans une tendance qui considère l’information publique comme un bien commun dont la diffusion est d’intérêt public et général. La théorie du sociologue américain Robert King Merton met en lumière le bénéfice de l’ouverture des données scientifiques. Chaque chercheur doit apporter sa contribution au bien commun et renoncer aux droits de propriété intellectuelle dans le but de faire avancer la connaissance. C’est la convergence de cette idée scientifique avec les idéaux du logiciel libre et de l’open source qui façonne l’open data tel qu’il se met en place aujourd’hui. La création de valeur passe davantage par le partage de ces données, leur mise à disposition à des tiers, la participation et la collaboration, que par un effet volume. L’open data tente d’introduire un renversement de logique : par défaut, les données et les informations publiques doivent être publiées en ligne — avant même d’être réclamées par des tiers. Ceci marque un bouleversement culturel des mentalités.

Dès lors, l’open data est le fruit de son époque où les impératifs de transparence, d’accountability sont de plus en plus importants. La transparence est ici perçue comme la réponse à une ère de méfiance, voire de défiance, vis-à-vis des institutions et de leurs représentants. Ce mouvement répond à un ensemble d’enjeux tant économiques que politiques. De l’ouverture des données, on attend des bénéfices démocratiques (meilleure transparence de l’action publique, participation citoyenne, réponse à la crise de confiance vis-à-vis des élus et des institutions) mais également la création de valeur économique par le développement de nouvelles activités à partir des données ouvertes.

Ainsi, dans le secteur de la recherche et de la santé publique, l’open data représente la promesse d’étendre l’indication de médicament, de préserver la santé publique en identifiant les événements massifs ou, au contraire, des signaux faibles comme le début d’épidémie ou des attaques biochimiques, de piloter avec une précision quasi chirurgicale les politiques de santé publique afin de les adapter aux besoins nationaux et locaux de la population, ou d’assurer la sécurité sanitaire en suivant l’utilisation des produits de santé. Dans ces conditions, l’open data favorise, d’une part, un meilleur suivi sanitaire à l’échelle d’un pays, et d’autre part, une mise en avant des facteurs de risque à différentes échelles et de travailler sur la détection et le traitement d’épidémies. Sur le plan économique, l’ouverture des données de santé permet une meilleure gestion des dépenses qui passe obligatoirement par la prescription de soins appropriés, sûrs et de qualité. Enfin, les défenseurs de l’open data insistent sur l’aspect démocratique de cette pratique, et sur l’importance pour les organismes publics de faire preuve de transparence.

Toutefois, l’open data est aujourd’hui confronté à un certain nombre de défis et d’interrogations, tant au niveau de la demande que de l’offre. L’offre de données reste encore largement à construire : la majorité des détenteurs ont ouvert en priorité les données les plus faciles à obtenir tant techniquement, juridiquement que politiquement. Les données numériques perçues comme sensibles, ou celles qui présentent un fort impact social ou sociétal, restent encore largement hors du champ de l’open data.

« Outre les résultats et leurs aspects méthodologiques, nous regarderons les questions de gouvernance et d’éthique de l’accès aux données et de diffusion des résultats que poseront certaines des solutions et applications concrètes proposées par les candidats. », Nicolas de Cordes, membre du Comité scientifique

Certaines données sont complexes à appréhender si l’on ne connaît pas le contexte de leur usage premier. N’est-il pas risqué de les rendre accessibles à tous ? Ne va-t-on pas les dénaturer en les interprétant ? En effet, l’appropriation par le plus grand nombre se heurte rapidement à la difficile question de la culture de la donnée. Des compétences d’origines variées sont nécessaires comme : savoir repérer les sources de données, être capable de les traiter, de les manipuler, de porter un regard critique sur les conditions de leur production et de leur ouverture, maîtriser les concepts statistiques de base, etc.

La confidentialité et les abus dans l’usage de ce type de données ne sont pas à négliger dans ce type de débat. C’est pourquoi on peut redouter une possible « ré-identification indirecte des personnes » en recoupant et en croisant plusieurs informations ainsi que l’utilisation de ces informations par des acteurs privés avec les dérives qui peuvent en découler. Les aspects de sécurisation des données sont donc un élément très important dans l’exploitation de ces open data.

Par ailleurs, en éthique, le terme de « valeur » est de l’ordre du devoir-être. C’est un étalon de mesure qui permet de jauger les faits. Il indique des idéaux à poursuivre. Ce mot a une connotation générale et dynamique ; il a d’abord une évocation philosophique avant d’avoir une retombée éthique. Un des fondements de l’éthique est cette impérativité à faire appel à la rationalité des acteurs. Cette idée se structure via une entente dans la coordination, l’échange et le partage entre les protagonistes. Chaque personne contribue à la recherche d’une intercompréhension de la situation à analyser. Cela présuppose donc un certain consensus et une solidarité entre les interlocuteurs qui partagent une même finalité. Si l’éthique est déjà par nature complexe à définir, sa mise en perspective avec le numérique relevait d’un autre défi. L’éthique demande une vision, un dessein, une ambition qui se concrétise dans une orientation.

Aucune technologie ne peut être considérée comme purement instrumentale. Ceci est particulièrement pertinent lorsqu’il s’agit de grands SI automatiques, mis au point pour contribuer à la gestion et l’intégration des grandes organisations, comme les structures de santé. Dans un tel contexte, l’environnement est principalement composé d’êtres humains. En faisant évoluer les SI, les facteurs humains président simplement des facteurs techniques. Même si la satisfaction de ces derniers est obligatoire, ils ne sont jamais vraiment suffisants. Dans tout big data, le facteur humain et l’interaction homme-ordinateur sont fondamentaux. Toutefois, dans un contexte multi-utilisateurs simultanés, l’interaction homme-homme est la principale question à résoudre. L’évaluation des grands ensembles de données numériques, tels que ceux trouvés dans le domaine de la santé, est fondée sur le concept de relationship inter-humaine (Fessler et Gremy, 2001) qui sous-tendent la conception, la mise en place et l’utilisation des big data. Dans ces conditions, ces « méga données » apparaissent principalement comme un système social, avec ses caractéristiques psychologiques, sociologiques et éthiques. C’est à partir de cette approche que notre réflexion éthique doit commencer sa démarche et poser les principes éthiques spécifiques à l’action numérique.

Barbara Govin- CC BY NC ND

L’éthique des NTIC peut se découper en trois grandes thématiques :

  • l’éthique des données : définissant les principes éthiques garantissant le traitement équitable de données et la protection des droits individuels, tout en utilisant des big data à des fins scientifiques ou commerciales ;
  • l’éthique des algorithmes : traduisant l’étude des problèmes éthiques et des responsabilités des concepteurs de données scientifiques, concernant les conséquences imprévues et indésirables, ainsi que les occasions manquées sur la conception et le déploiement d’algorithmes complexes autonomes ;
  • l’éthique des pratiques : représentant l’identification d’un cadre éthique approprié pour façonner un code déontologique sur la gouvernance et la gestion des données, favorisant à la fois le progrès de la science des données et la protection des droits des personnes concernées.

Dès lors, la révolution technologique concernant le secteur de l’information doit être menée dans l’intérêt des patients et d’une meilleure prise en charge. En d’autres termes, la seule valeur à prendre en compte, en vue de la conserver, est la personne humaine considérée dans sa dignité d’être moral. Cette dignité humaine constitue une valeur absolue que l’on donne à la personne. Ainsi, des principes éthiques, pratiques, techniques et ergonomiques doivent être imposés afin que les patients et leurs familles restent les principaux bénéficiaires de cette évolution technologique. Cela est d’autant plus vrai que toute réflexion éthique est un conflit entre des valeurs humaines. Quelles que soient nos pensées religieuses, nos cultures, nos influences politiques ou domaines d’activité, ce sont nos émotions qui révèlent nos valeurs profondes. Comme le souligne si bien Pierre Le Coz (2010) lors de la première journée d’éthique « Cancer et fertilité » de l’Institut Paoli-Calmettes, « s’il n’y a pas d’émotion, il ne peut y avoir de valeurs formalisées et donc pas d’éthique ».

En effet, chaque grand principe éthique peut être associé à une émotion particulière. On peut faire le couplage suivant :

  • le respect pour : le principe d’Autonomie (consentement libre et éclairé) ;
  • la compassion pour : le principe de Bienfaisance (bien-fondé d’une action) ;
  • la crainte pour : le principe de Non-Malfaisance (ne pas nuire à une personne) ;
  • l’indignation pour : le principe de Justice (basé sur l’équité et l’égalité).

De plus, dans le cadre de la technologie, l’éthique a affaire à des actes, des actions qui ont une portée causale sociale incomparable en direction de l’avenir et qui s’accompagnent d’un savoir prévisionnel qui, peu importe son caractère incomplet, déborde lui aussi tout ce qu’on a connu autrefois. Elle peut donc se définir comme étant un dispositif de réflexion sur la signification morale de l’action. Cette définition est destinée à être large et fondamentale et à intégrer plusieurs composants de l’éthique informatique (Waskul et Douglass, 1996). On compte principalement cinq applications éthiques relatives aux NTIC :

  • l’éthique de l’empowerment : associée au patient acteur (e-patient) qui demande son autonomie et sa dignité (respect de ses droits) ;
  • l’éthique de l’accès : avec le droit fondamental et la transparence (Universal Design);
  • l’éthique de la dissémination : relative à une mutation évolutive de l’informatique de contrôle vers l’informatique de service (centralisation et distribution) ;
  • l’éthique de la réappropriation : centrée sur les mutations comme potentiels (littératie numérique) ;
  • l’éthique du collaboratif : entourant le partage d’information (sur le Web avec notamment les forums en ligne ou les réseaux sociaux).

Enfin, comme nous venons de le voir, l’information devient le principal objet de l’action morale. Introduire de l’éthique dans le numérique est un acte non naturel du fait que les NTIC seraient dépourvues de toute valeur sociale et humaine. Cette idée provient d’une réflexion commune qui considère que toute technologie est éthiquement neutre, car seul l’être humain peut apporter du sens à ses actions. Pourtant, nous constatons que les big data diffusent également des valeurs dans la mesure où ils impactent et conditionnent la manière dont leurs utilisateurs se comportent. Par conséquent, aucune donnée numérique n’est jamais neutre. C’est pourquoi il ne faut pas réduire l’éthique du numérique à l’expression de valeurs extrinsèques de bons usages de la technologie, mais également aux valeurs intrinsèques à celle-ci. Enfin, avec l’avènement du numérique et des « données massives », c’est toute une éthique qui est à inventer parce que les NTIC dessinent un nouveau paradigme relationnel et sociologique (Doueihi, 2013).

« Si les big data sont éthiquement neutres, leur usage ne l’est pas, d’où la nécessité pour Epidemium d’établir un cadre et une charte éthique pouvant répondre à tous les projets émergeant dans le programme utilisant les données potentiellement très différentes les unes des autres. »

Nous n’avons pas la prétention d’inventer une nouvelle éthique mais plutôt de repenser et réinventer l’éthique existante afin de la faire évoluer vers ce que nous appelons l’« éthique algorithmique » appliquée exclusivement au numérique. Cette nouvelle approche a pour finalité d’intégrer des valeurs et principes éthiques sur la conception, la mise en oeuvre, à l’usage des big data notamment dans le domaine de la médecine.


Bibliographie :

  • Doueihi M. (2013). Qu’est-ce que le numérique ? PUF, pp. 150.
  • Ericsson White Paper (2011). More than 50 Billion Connected Devices. Ericsson, disponible en ligne, dernière consultation le 30 novembre 2016.
  • Fessler J-M et Grémy F. (2001). “Ethical problems in health information systems” dans Methods Inf Med, 40(4), pp. 359–61.
  • Hamel M-P et Marguerit D. (2013). Analyse des big data : quels usages, quels défis ? France Stratégie, Note d’analyse n° 8, pp. 1–12, disponible en ligne, dernière consultation le 30 novembre 2016.
  • Le Coz P. (2010). « Cancer et fertilité : les aspects éthiques », recherche présentée au colloque de l’Institut Paoli-Calmettes, Marseille, 19 novembre 2010.
  • Waskul D. et Douglass M. (1996). “Considering the Electronic Participant: some polemical observations on the ethics of on-line research” dans The Information Society, vol.12(2), pp. 129–139.

Auteur :

BÉRANGER Jérôme, Membre du Comité d’éthique indépendant d’Epidemium : Chercheur (PhD), Expert scientifique en big data, SI, Ethique et Réglementaire à KEOSYS.

Retrouvez la version web du Livre blanc.

Rejoignez la communauté Meetup, Twitter & Facebook.