David Gruson : “Dans le domaine de la santé en général et face au Covid-19 en particulier, la plus grande erreur éthique serait de se fermer à l’innovation”
Covid-19
INTERVIEW - David GRUSON, ancien élève de l’Ecole nationale d’administration et de l’Ecole des hautes études en santé publique, est Directeur du Programme Santé du Groupe Jouve, spécialisé sur la transformation digitale. Il a exercé plusieurs postes à responsabilité dans les domaines des politiques publiques et de la santé. Il a, en particulier, été conseiller du Premier ministre chargé de la santé et de l’autonomie (2010–2012) et directeur général du Centre hospitalier universitaire de La Réunion (2012–2016). Il est Professeur à la Chaire santé de Sciences Po Paris. Ses propositions sur l’IA en santé ont inspiré le volet intelligence artificielle de la révision de la loi de la bioéthique qui vient d’être votée au Parlement.
Il est aussi l’auteur de “S.A.R.R.A. : une intelligence artificielle”, premier polar bioéthique sur l’IA en santé paru en juin 2018 aux Editions Beta Publisher et dont la suite “S.A.R.R.A. : une conscience artificielle” vient de paraître. Il a également écrit “La Machine, le Médecin et Moi”, ouvrage de synthèse sur le développement de l’IA en santé paru en novembre 2018 aux Editions de l’Observatoire et est co-auteur de “La Révolution du pilotage des données de santé” paru en mai 2019 aux Editions hospitalières.
SCIAM . - Vous êtes auteur d’un roman d’anticipation en plein cœur de l’actualité.
Comment vous est venue cette idée et pourquoi avoir voulu la partager avec le grand public ?
David GRUSON . - L’origine de SARRA remonte à une suspicion de cas d’Ebola très complexe que nous avions eue à gérer fin 2014 avec les équipes du CHU de La Réunion.
Après cette séquence qui avait été marquée par une très forte mobilisation des professionnels mais aussi par des moments éprouvants, j’ai voulu confronter cette question du risque pandémique à celle de l’intelligence artificielle et du numérique en santé sur laquelle je travaille depuis vingt ans. Le thème de SARRA a émergé à ce moment-là.
Dans le premier tome, l’IA S.A.R.R.A. (Système automatisé de réponse rapide aux alertes) doit répondre à une épidémie d’Ebola en plein cœur de Paris en cherchant à produire un vaccin en réponse à la diffusion du pathogène. Dans le deuxième tome — qui vient de sortir — la crise est devenue pandémie et l’IA doit porter ses actions sur une nouvelle échelle. Le livre permet de suivre le parcours de Mélusine — la conceptrice de l’IA — à travers les méandres du pouvoir politique, médical et médiatique.
« SARRA » n’est pas un texte qui cherche à donner des réponses mais à confronter le lecteur aux questionnements — parfois très durs — qui naissent des interactions au sein de ce trinome : l’Homme, le Virus et la Machine.
SCIAM . - La pandémie pousse les ressources hospitalières au point de rupture dans de nombreux pays du monde.
Dans quelle mesure vous semble-t-il pertinent d’utiliser un système d’IA pour mieux gérer la crise actuelle ? Quels bénéfices/cas d’usage pourrions-nous en tirer ?
David GRUSON . - Tout d’abord, il faut être extrêmement humble sur cette question. La réponse au Covid-19 a d’abord été et reste encore essentiellement humaine.
L’IA ne restera qu’un élément très subsidiaire. Néanmoins, nous avons aussi vu émerger une série de nouveaux cas d’usage : repérage des foyers épidémiques, apprentissage machine par reconnaissance d’image sur les clichés pulmonaires, mobilisation de robots pour faire respecter des mesures de confinement pour des millions de personnes…
Ce que nous devons constater, ce sont aussi les très grandes disparités dans le recours à ces vecteurs entre les différents pays. L’Europe elle-même s’est profondément divisée dans les choix de recours à ces outils. La valeur ajoutée réelle du numérique face au Covid-19 est sans doute ailleurs, dans des cas de recours plus directs. On le voit dans le développement — que je pense maintenant irréversible — de la téléconsultation. Ce que nous faisons avec Jouve s’inscrit également dans cette logique : nous avons mis au point une solution d’IA qui aide à développer l’admission à distance des patients et c’est évidemment important dans un contexte de nécessaire distanciation physique.
SCIAM . - La propagation de Covid-19 semble nous confronter à une situation inédite.
Quelles vous semblent être les limites des systèmes d’IA actuels ?
David GRUSON . - Ce que montre la crise actuelle — et qui est vraiment aussi le point central de « SARRA » — c’est que l’intelligence artificielle peut nous confronter à un point de tension entre la Personne et le Collectif.
L’algorithme, qui est un programme mathématique, décidera ou proposera des orientations de décisions en fonction de l’intérêt du plus grand nombre. Le contexte épidémique démultiplie en quelque sorte cette tendance collectiviste en la superposant aux mesures de santé publique hygiénistes de réponse au Virus. Et ces mesures, bonnes pour le plus grand nombre, sont susceptibles de générer des effets négatifs pour des groupes d’individus.
Cette question éthique essentielle associée à l’IA, dont nous mesurons tous en ce moment-même l’acuité, est restée trop longtemps sous le radar du débat sur l’intelligence artificielle. C’est pourtant un sujet majeur que nous avions relevée dès 2017 avec Ethik-IA et que le Comité consultatif national d’éthique avait relayé dans son avis 129 émis dans le cadre de la révision bioéthique.
SCIAM . - Le déconfinement a mis en lumière, depuis quelques semaines, la question de l’utilisation d’une application de tracking et de nos données. La centralisation et le croisement des données captées via nos téléphones permettraient de créer un modèle apprenant, de détecter des patterns (de trajet par exemple) et de proposer du prédictif (comportement, recommandations…).
Pensez-vous que nous assistons aux prémices de SARRA ?
David GRUSON . - Le Monde de SARRA est un monde de dérives liberticides absolues quant au recours au numérique pour répondre à la pandémie.
C’est aussi un monde dans lequel l’Europe a été mise sous tutelle par les géants du numérique comme PanGoLink… Je suis souvent interrogé par l’incroyable résonance de ce nom, inventé en 2017, pour le premier tome avec la crise du Covid-19. En fait, à l’origine, PanGoLink — dont le logo est un pangolin — renvoie au panoptique de Bentham et à l’idée d’un lien total de surveillance. Nous sommes encore très loin de cette dystopie avec le débat actuel sur le tracking face au Covid-19. Mais, si nous n’y prenons pas garde et surtout si les pays européens continuent de céder à la tentation du cavalier seul, cette mise sous tutelle risque effectivement d’advenir à brève échéance.
SCIAM . - L’émergence d’un système de santé embarquant des outils prédictifs de plus en plus puissants semble nous placer face à un dilemme éthique de plus en plus prégnant : liberté (par exemple vis-à-vis de nos données de santé) versus qualité des soins de santé.
Quels garde fous devraient être mis en place selon vous ?
David GRUSON . - Dans le domaine de la santé en général et face au Covid-19 en particulier, la plus grande erreur éthique serait de se fermer à l’innovation, de se bloquer dans le réflexe d’un conservatisme craintif.
Nous devons, au contraire, nous ouvrir à ces outils mais veiller à en réguler les risques éthiques. C’est précisément le sens du principe d’une Garantie Humaine de l’IA que nous avions proposé en 2017 et qui figure à l’article 11 du projet de loi bioéthique. Il a également été endossé dans le livre Blanc publié le 19 février dernier par la Commission européenne sur l’IA.
L’idée est de mettre en œuvre, en vie réelle de ces applications, une supervision humaine auxquels participent professionnels de santé et représentants des patients. C’est une condition essentielle de régulation éthique positive des outils numériques face aux pandémies.
