Une AI digne de confiance, est-ce possible

DiSummit 2019
May 22 · 4 min read
par Alain de Fooz

UNE SOIRÉE SUR LE THÈME DE L’ÉTHIQUE, MARDI 28 MAI. COMMENT RENDRE L’AI DIGNE DE CONFIANCE ? DIGITYSER A CONVIÉ NATHALIE SMUHA, AVOCATE SPÉCIALISÉE.

Le débat sur l’utilisation de ces technologies prendra inévitablement une ampleur grandissante au fil des années à venir. Nous sentons une réelle prise de conscience de l’importance de l’éthique. Mardi 28 mai, Digityser accueillera Nathalie Smuha, pour en débattre. Lawyer & Coordinator High-Level Expert Group on AI, DG Connect, mais aussi Assistant Lecturer, KULeuven, Nathalie Smuha a participé étroitement aux travaux de la Commission européenne qui, en avril 2019, a livré un cadre pour une IA digne de confiance.

L’AI révolutionne nos modes d’action et pourrait bouleverser nos repères éthiques, déjà bien fragiles. A titre d’exemple, l’AI programmée dans la voiture autonome pose des questions morales impossibles à résoudre même pour un être humain : en cas de défaillance de ma voiture, choisirai-je de tuer deux enfants ou bien trois personnes âgées, si ceux-ci venaient simultanément à croiser ma trajectoire? C’est à cette question épineuse de l’éthique que la Commission Européenne a tenté de s’atteler avec la rédaction du AI Ethical Guideline -un document que Nathalie caractérise de «nature vivante».

PARLER DE L’HOMME

Plus encore que les questions éthiques, la confiance dans les algorithmes est vue comme un enjeu majeur. Dans la foulée de la Commission européenne, des entreprises belges ou actives en Belgique comme Barco, IBM et Microsoft s’apprêtent à tester au cours des prochains mois la faisabilité des règles éthiques proposées. Avec quels succès ? On verra.

Au cours de cette soirée organisée par Digityser, Nathalie Smuha reviendra certainement sur les six principes éthiques considérés comme fondateurs du groupe d’experts : la Bienfaisance (faire le bien), la Non-malfaisance (ne pas nuire), l’autonomie des humains, la Justice (c’est-à-dire la non-discrimination de l’IA) et l’explicabilité pour assurer autonomie, consentement éclairé et protection des donnés. Mais alors, sans autonomie, l’utilisateur n’aurait-il pas de droits? De même, transparence des algorithmes, non-discrimination, protection des données seront-ils des principes suffisants pour garantir le respect de nos libertés ? Sans doute pas.

LES INCANTATIONS NE SUFFIRONT PAS

S’il nous faut être inventifs d’une éthique capable d’inspirer, de fonder, de promouvoir et de soutenir des principes d’humanité à hauteur d’enjeux qui à tant d’égards fascinent tout en appauvrissant nos capacités d’en saisir les conséquences, encore s’impose-t-il à nous le courage politique de refuser l’imprudence ou la tentation de renoncements apparemment avantageux.

La compétition scientifique dans le champ de l’AI et les perspectives en termes de maîtrise, de contrôle, de souveraineté, de gouvernance et d’économie sont telles qu’il convient d’admettre que s’y joue à la fois le devenir de notre société ainsi que la capacité d’assumer nos responsabilités au regard des générations futures.

DiSummit2019

Collaborative blogging about the DiSummit 2019

DiSummit 2019

Written by

June 26 diSummit2019 👉 Being Human in the Age of AI 🤖 The annual conference of the #ai4belgium and #datascience community of Belgium

DiSummit2019

Collaborative blogging about the DiSummit 2019