L’éthique de Mélusine !

Souvenez-vous, il y a un peu plus d’1 an, nous vous annoncions la naissance de Mélusine : la solution Open source MAIF permettant la qualification des emails entrants grâce à des techniques avancées de traitement du langage, développée avec notre partenaire Quantmetry.

Les modèles d’intelligence artificielle utilisés (modèles de deep learning tels que les réseaux de neurones à convolution et récurrents) se sont avérés pertinents : l’optimisation du routage permet de réduire significativement le délai de réponse à nos sociétaires et les témoignages des conseillers MAIF sont positifs : Mélusine leur épargne des tâches annexes afin de se recentrer sur la relation humaine avec le sociétaire.

Une première année réussie

Belle reconnaissance : le 5 février dernier, Mélusine a remporté le Grand Prix de l’Expérience Client du Digital Innovation Makers Summit.

Une autre grande réussite est d’avoir relevé le défi de l’industrialisation, en passant d’une data science de laboratoire à une data science de production. Mélusine est robuste et traite en temps réel nos 15 000 mails quotidiens depuis maintenant plus d’un an, sans ciller !

En ouvrant notre code en Open Source nous étions forcément un peu inquiets des retours de la communauté : au final ces retours se sont avérés positifs, mettant en avant la qualité du code et le socle très complet de traitement des emails. Mais surtout, et c’est la grande force de l’Open Source, nous avons eu de belles contributions : tout récemment une Pull Request nous faisait découvrir la librairie Python FlashTExt permettant de détecter des mots clés d’une liste dans les emails. Résultat? Un gain de temps de traitement de facteur 20 sur la recherche de prénoms dans la brique de détection des signatures. Ces contributions nous sont précieuses et nous les attendons avec impatience.

IA éthique, le prochain défi de Mélusine

Au cours de la période de crise sanitaire et sociétale récemment traversée, l’équipe a souhaité se recentrer sur la raison d’être de MAIF : ”une attention sincère portée à l’autre et au monde”, et approfondir concrètement ce sujet de l’IA éthique.

L’intelligence artificielle est une véritable opportunité en particulier dans l’amélioration de la relation sociétaire mais à la MAIF, nous sommes aussi très attentifs aux risques du numérique et en particulier sur les impacts de nos traitements IA : mon modèle est -il équitable ? Y’a-t-il un risque de discrimination ? Quels sont les impacts sur le bien être sociétal, sur l’environnement ?

Afin d’accompagner les projets dans la conception de modèles IA éthiques, nous avons établi un questionnaire permettant d’évaluer le projet selon une grille de notation et permettre ainsi d’identifier d’éventuels risques ou points faibles.

Ce questionnaire est issu de la ligne directrice de l’Union européenne en matière d’éthique pour une IA digne de confiance : parmi l’ensemble des critères de l’UE, nous en avons retenu une cinquantaine qui nous semblaient pertinents dans notre écosystème Data & IA.

Et pour rester fidèles à notre démarche d’Open Source, nous avons choisi de rendre publique cette grille d’évaluation !

Nous avons ajouté à ce questionnaire un petit outil d’exploration de données permettant par exemple de visualiser la distribution des prédictions d’un modèle IA selon certaines variables (âge, sexe, localisation, …) afin d’aider à identifier d’éventuels biais discriminatoires. Cet outil, qui repose sur Streamlit, est également accessible en Open Source.

Nous sommes impatients de vous écouter, lire, ou de vous rencontrer au sujet de cette initiative : n’hésitez pas à laisser une “star” sur le github, ou un commentaire !

On termine ce billet avec un peu de teasing… L’équipe Mélusine de la MAIF vous donne rendez-vous très prochainement pour vous présenter une évolution majeure dans l’utilisation de modèles de langue française…. (petit indice on y parlera fromage !)