Intelligence artificielle en santé : de la qualification des données de santé au principe de garantie humaine
La médecine moderne se développe autour des « 4 P » : prédiction, prévention, personnalisation, participation. Pour soutenir cette évolution de nombreux paramètres doivent être pris en compte pour faire émerger des solutions souples, évolutives et personnalisées. L’intelligence artificielle, science qui consiste à faire faire aux machines ce que l’homme ferait moyennant une certaine intelligence, devient dès lors un outil incontournable. Pour autant, son application dans le domaine de la santé nécessite certains points de cadrage.
L’intelligence artificielle déjà bien présente dans l’univers de la santé.
La santé est un cas d’école pour l’utilisation et le développement de l’intelligence artificielle. L’accumulation de données, la démultiplication de la puissance de calcul des ordinateurs et l’avènement des techniques d’apprentissage ouvrent de larges champs d’application. Certaines ont d’ores et déjà des conséquences sur la pratique de nombreux professionnels de santé. Logiciels d’aide à la prescription médicamenteuse, logiciels d’aide au diagnostic, techniques d’apprentissage par reconnaissance d’images, aide à la décision d’orientation des patients, techniques de réalité augmentée,… l’intelligence artificielle est présente au quotidien.
L’algorithme au cœur de l’intelligence artificielle.
L’algorithme est une description d’une suite finie et non ambiguë d’étapes ou d’instructions, permettant d’obtenir un résultat à partir d’éléments fournis en entrée. Cet algorithme peut être dans certains cas doté d’intelligence grâce à des techniques d’apprentissage automatique (machine learning). Cela implique d’alimenter la machine avec des exemples de la tâche que l’on se propose de lui faire accomplir. L’homme entraîne ainsi le système en lui fournissant des données à partir desquelles celui-ci va apprendre et déterminer lui-même les opérations à effectuer pour accomplir le travail en question. Cet apprentissage peut être totalement supervisé si l’humain qualifie les données et fournit les règles de traitement des tâches, ou non supervisé lorsque les données sont fournies brutes à l’algorithme qui élabore sa propre classification et est libre d’évoluer vers n’importe quel état final après qu’un motif ou un élément lui est présenté.
Quoiqu’il en soit, l’intelligence artificielle repose sur le traitement de grandes quantités de données, pertinentes et de qualité. « L’algorithme sans données est aveugle. Les données sans algorithmes sont muettes (CNIL : Les enjeux éthiques des algorithmes et de l’intelligence artificielle) ».
Les données de santé : informations sensibles à protéger.
La première difficulté vient que les données de santé, nécessaires pour alimenter l’algorithme, relèvent de la catégorie dite « sensible » et bénéficient à ce titre d’un haut degré de protection. Elles traitent de toute information concernant une maladie, un handicap, un risque de maladie, les antécédents médicaux, un traitement clinique ou l’état physiologique ou biomédical de la personne concernée, indépendamment de sa source, qu’elle provienne par exemple d’un médecin ou d’un autre professionnel de la santé, d’un hôpital, d’un dispositif médical ou d’un test de diagnostic in vitro.
Ces données relèvent d’un régime juridique très strict de protection dont les modalités (article 9 du RGPD) doivent être appliquées pour leur recueil et leur traitement. Il faut donc trouver un équilibre entre cette rigidité nécessaire au droit du patient et la souplesse indispensable à l’évolution et au progrès médical.
Le consentement des individus au recueil, au stockage, à l’accès et à l’exploitation de leurs données de santé permet d’en fonder le traitement. Il doit en particulier être éclairé, prévoir une certaine capacité à maîtriser le devenir de ces données, et déterminer clairement la finalité du traitement.
Assurer la qualité des données, une étape essentielle.
Une fois le consentement acquis, la qualité et la pertinence des données fournies aux algorithmes ont une importance déterminante. Il s’agit de trier puis transformer une donnée brute en une information valorisable par l’algorithme. Or les sources de données sont très variables. La catégorisation des données, leur harmonisation, leur inscription dans une sémantique interopérable est une étape essentielle, gage de qualité pour limiter les erreurs. Car le risque est grand d’accorder une confiance démesurée au caractère infaillible des algorithmes dont les résultats sont pourtant déterminés par des choix humains et susceptibles de présenter des biais en fonction de la qualité des données qui lui sont présentées.
C’est l’un des enjeux, par exemple, du Health Data hub qui pourrait être tout à la fois « tiers de confiance » pour le partage d’un certain nombre de données dans le respect du droit des patients, « plateforme de stockage et de traitement sécurisée » ainsi que « guichet unique » pour adresser certaines données personnelles valorisées,
L’impact de l’intelligence artificielle sur la relation professionnels de santé / patients.
Le risque est d’un côté de placer la machine dans une situation de concurrence avec le professionnel de santé. Sa compétence en serait relativisée, la confiance du patient dans le soignant amoindrie. Sous l’angle du patient, ce pourrait être de lui donner l’illusion d’accéder à un savoir médical automatisé, centralisé, ne nécessitant plus d’intervention humaine. Ceci tomberait au plus mal dans un contexte où l’on incite le patient à devenir acteur de sa santé.
Au cœur de la relation professionnels de santé / patients siège le « colloque singulier » que la machine ne peut imiter. Les algorithmes sont dénués de toute capacité de communication et d’empathie. Le patient risque de se retrouver dépassé par les informations brutes reçues de la machine. Le professionnel de santé, quant à lui, ne doit pas perdre son autonomie et déléguer la décision aux algorithmes sans remettre en question leurs résultats.
En fin de compte, par un échange final, le professionnel de santé ne peut être dépossédé du choix qu’il va considérer comme le meilleur pour son patient pris dans sa globalité. Le patient ne sera pas privé de la possibilité de participer de façon éclairée aux décisions et choix thérapeutiques gage d’une meilleure adhérence à son parcours de soins ou de prévention.
Une loi Bioéthique pour encadrer l’utilisation de l’intelligence artificielle en santé.
La loi bioéthique, actuellement en discussion à l’Assemblée Nationale et au Sénat s’intéresse pour une large part à l’intelligence artificielle en santé.
Elle vise en premier à protéger le professionnel de santé dans sa responsabilité. Une faute ne pourrait être établie du seul fait que le praticien n’aurait pas suivi les recommandations d’un algorithme, quand bien même celles-ci se révèleraient exactes. Sa responsabilité ne saurait être engagée qu’en cas de faute avérée de sa part et après avoir vérifié l’absence de défaut de l’algorithme.
Elle introduit le principe d’une garantie humaine en santé, défini comme « la garantie d’une supervision humaine de toute utilisation du numérique en santé, et l’obligation d’instaurer pour toute personne le souhaitant et à tout moment, la possibilité d’un contact humain en mesure de lui transmettre l’ensemble des informations la concernant dans le cadre de son parcours de soins ». Ce principe défend « la nécessité de préserver la maîtrise finale du professionnel de santé, en interaction avec le patient, pour prendre les décisions appropriées en fonction de chaque situation spécifique ». Cette garantie humaine pourrait s’appuyer sur des recommandations de bonnes pratiques rédigées par la haute Autorité de Santé, des procédés de vérification réguliers par un « collège de garantie humaine » à l’échelle d’un établissement ou d’un territoire, et en définitive un nouvel acte de télémédecine, dit « de garantie humaine » permettant d’obtenir un deuxième avis médical en cas de doute sur les recommandations thérapeutiques de l’algorithme.
Elle met en place l’exigence d’explicabilité de l’algorithme dans le but de préserver le rôle du médecin dans le parcours de soins d’un patient et de son autonomie décisionnelle qui passe par sa capacité à comprendre comment et pourquoi une proposition a été faite par un algorithme. L’explication pourrait être différenciée selon le public visé, en particulier pour le patient. S’il existe une responsabilité du fournisseur de la solution mettant à disposition la solution d’intelligence artificielle, cela sous entend aussi de développer la formation des professionnels de santé sur les apports de l’intelligence artificielle en santé et l’utilisation des données de santé générées au cours du parcours de soins.
Elle prévoit que le patient ou son représentant légal soit informé préalablement du recours à un algorithme d’aide à la décision médicale dans son parcours de soins et que soit garantie l’effectivité du recueil du consentement d’un individu à l’utilisation de ses données de santé.
Enfin, reste ouverte la question de la certification des algorithmes dans le domaine de la santé qui est actuellement soumise à l’échelle européenne aux règles de droit commun applicables aux dispositifs médicaux. La difficulté est que cette certification s’adresse à un produit délivré sous une forme immuable alors que les technologies d’intelligence artificielle sont par nature des processus apprenants et donc extrêmement évolutifs. Cette certification pourrait s’appuyer sur des normes de qualité sur la façon dont un système doit être conçu et dont le code doit être rédigé. Cette certification devrait évoluer à l’échelle européenne.
Conclusion
L’intelligence artificielle trouve par essence dans la santé un domaine propice pour se développer. D’ores et déjà active, elle promet des perspectives plus sensationnelles encore. Pour matérialiser ces espoirs, elle ne peut se nourrir que de données qualifiées en gage de fiabilité. Pour autant, elle adresse à l’ensemble de la société des considérations éthiques que la loi va tenter de cadrer, en particulier par l’introduction d’un principe de garantie humaine qui vise à préserver la maîtrise finale par le professionnel de santé et préserver le « colloque singulier » avec le patient. L’académie de médecine avait en son temps rappelé que « l’humanisme est consubstantiel à la médecine et que la pratique clinique ne peut être opposée à la technologie, car elle en est indissociable. » Il est de la responsabilité de l’ensemble des intervenants de faire en sorte que ce mariage demeure prolifique.
