Shapash : Une nouvelle solution #OSSByMAIF pour une Intelligence Artificielle plus transparente
Dear English-language readers, you will find an English version of this article here.
MAIF contribue depuis plusieurs années à l’Open source. Les briques Otoroshi et Izanami notamment, sont les ambassadeurs de notre plateforme de micro-services. Depuis 2019, notre mutuelle partage aussi ses travaux sur le domaine l’intelligence artificielle : c’est le cas avec Melusine pour le traitement des emails.
Aujourd’hui c’est la solution Shapash que nous vous proposons de découvrir, avec pour ambition de rendre le recours aux algorithmes plus transparent et de contribuer ainsi à une utilisation éthique de la data.
Un peu de contexte
Globalement, les Français sont méfiants vis-à-vis de l’intelligence artificielle. Cette méfiance est renforcée par l’avènement du big data et la multiplication des données disponibles pour l’entrainement d’intelligences artificielles.
En effet, les risques sont potentiellement nombreux : utilisation frauduleuse de données personnelles, présence de biais discriminatoires, … L’IA peut même devenir un outil de surveillance dans certains pays …
Au sein de l’Union européenne, les pouvoirs publics sont conscients de ces risques et se saisissent du sujet, que ce soit au niveau européen avec la RGDP ou national (avec la CNIL en France).
Et pourquoi Shapash ?
Au sein de MAIF, nous avons évidemment un usage historique des données, pour proposer un conseil personnalisé à nos sociétaires, mais aussi pour maîtriser nos risques. Nous portons un intérêt tout particulier une utilisation éthique des données.
La transparence des algorithmes que nous développons est primordiale : c’est par cette transparence que l’IA peut renforcer la confiance !
Aussi, depuis quelques années, nous nous intéressons au domaine de l’intelligibilité des modèles de Data Science. Ce domaine évolue et plusieurs contributions open source paraissent régulièrement et sont souvent très pertinentes. Elles s’adressent essentiellement à un public de praticiens de la donnée.
Avec Shapash, développé par des Data Scientists MAIF, nous avons souhaité proposer une solution qui s’adresse à tous, quel que soit son background data.
Côté MAIF, Shapash nous permet:
- De faciliter le dialogue entre les Data Scientists et les acteurs non Data-techniciens de la mutuelle.
- Pour les Data Scientists, de comprendre plus facilement et plus rapidement comment fonctionnent les modèles qu’ils développent.
Il nous parait aujourd’hui évident de proposer Shapash en Open Source !
Nous avons souhaité proposer une solution qui s’adresse à tous, quel que soit son background data.
Que fait Shapash ?
Shapash est une librairie Python qui vise à rendre le Machine Learning intelligible par le plus grand nombre.
Concrètement, il s’agit d’une surcouche à d’autres librairies d’intelligibilité (Shap, Lime) qui :
- Affiche des résultats intelligibles grâce à un wording et des visualisations simples, adaptés à un large public.
- Propose une interface qui facilite l’exploration des différentes features d’un modèle et permet la navigation entre explicabilité globale et locale. Cette interface est particulièrement utile pour animer des ateliers métiers et répondre en séance aux questions sur le fonctionnement du modèle de ML.
- Permet de résumer l’explicabilité locale pour la rendre utile dans un contexte opérationnel. Ce résumé est paramétrable pour s’adapter à différents cas d’usage, et peut être exporté.
- Est ouverte ! Shapash s’utilise pour des problématiques de Régression, Classification et se veut compatible avec une multitude de librairies de Machine Learning, d’encoding de features (encoding inverse), utilisable avec des contributions calculées par Lime, Shap, …
Shapash fonctionne pour tout type de cas d’usage. Il peut être utilisé dans le domaine de la santé, l’économie, marketing, …
N’hésitez pas à vous rendre sur le GitHub de Shapash : vous y trouverez une documentation plus exhaustive des fonctionnalités proposées par la librairie ainsi qu’une demo de la Web App Shapash Monitor pour un test rapide ! Et n’hésitez pas à mettre une étoile sur GitHub si vous aimez le projet !
