L’IA Générative à grande échelle selon AWS

Rédigé par Do Thanh Long LE — Java Backend developer @BforBank suite au AWS Summit Paris 2024

Qu’est ce que l’AWS Summit ?

L’AWS Summit Paris est un événement gratuit qui rassemble la communauté du cloud computing pour se connecter, collaborer et en savoir plus sur AWS. C’est l’occasion incontournable pour les passionnés d technologie, les professionnels de l’informatique et les enthousiastes de l’intelligence artificielle (IA).

Cette année chez AWS Summit Paris 2024, je suis fasciné par l’opportunité de découvrir l’avenir de l’IA Générative (GenIA) et aussi les technologies de AWS dans l’IA, en particulier de l’Amazon Bedrock — un service qui permet de créer et de mettre à l’échelle des applications d’IA génératives à l’aide de modèles de fondation.

En tant que développeur backend, je me suis immergé dans le monde de la GenIA. Comment adopter une transformation numérique avec l’IA générative? Ou quels défis pose le déploiement de la GenIA en entreprise ?

Voici mon retour d’expérience sur l’IA générative à grande échelle

#1 — Qu’est ce que l’IA Générative

L’intelligence artificielle générative, également appelée IA générative, est un type de système d’intelligence artificielle (IA) capable de produire du texte, des images ou d’autres médias en réponse à des invitations (ou prompts en anglais).

Lorsqu’elle est construite à partir de plusieurs modèles génératifs ou d’un modèle entraîné sur divers types de données, elle est qualifiée de multimodale. Par exemple, la version GPT-4 d’OpenAI accepte des entrées sous forme de texte et/ou d’image (source — wikipedia)

#2 — Les challenges de l’adoption de GenIA à l’échelle

• Évolution rapide de la technologie : L’IA générative évolue à un rythme rapide, il est donc difficile à suivre des dernières avancées et maîtriser les nouvelles technologies. Les systèmes existants pourraient devenir obsolètes, nécessitant des mises à jour et des améliorations constantes.
• Développement non contrôlé : Sans réglementations appropriées, la GenIA peut être utilisée de manière abusive. Il est essentiel de mettre en place des mécanismes de contrôle et de surveillance.
• Manque d’une approche globale et cohérente : Il peut être difficile de développer une stratégie globale pour la GenIA en raison de la diversité des techniques et des applications. Cela peut provoquer une inefficacité dans l’utilisation des ressources et une duplication des efforts.
• Coûts prohibitifs : Le développement et la mise en œuvre de la GenIA peuvent être coûteux, en particulier en ce qui concerne le matériel nécessaire pour l’entraînement des modèles comme des cartes graphiques (GPU), des processeurs (CPU) …
• Peu de PoCs (Proof-of-Concept) déployés en Production : Il y a très peu de concepts prometteurs de GenIA ont été déployés à grande échelle en production. Ils se posent des défis tels que la robustesse du modèle, la fiabilité, l’éthique et la réglementation.

#3 — Un dispositif d’adoption de l’IA Générative à grande échelle reposant sur trois piliers

• Humain : la priorisation et la mise en œuvre des cas d’utilisation de la GenIA qui ont le plus de valeur ajoutée. Il est nécessaire d’avoir une compréhension des besoins de l’entreprise et une collaboration avec les parties prenantes pour s’assurer que les solutions déployées répondent à ces besoins. De plus, il est essentiel de former et de soutenir les utilisateurs finaux pour garantir une adoption réussie.
• Technologie : la mise en place d’une plateforme robuste et évolutive pour la GenIA. Cela concerne le choix des bonnes technologies et infrastructures, la gestion des données, l’entraînement et le déploiement des modèles, ainsi que la surveillance et l’optimisation des performances. La plateforme doit être flexible pour s’adapter à l’évolution rapide de la technologie d’IA générative.
• Process : la définition des politiques et des procédures pour la gouvernance de la GenIA . Cela comprend la gestion des risques, la conformité réglementaire, l’éthique, la qualité des données, la sécurité et la confidentialité. Il est crucial de mettre en place un cadre de gouvernance solide pour assurer une utilisation responsable et éthique de l’IA générative.

3 piliers de l’adoption de GenIA à grande échelle

#4 — Pourquoi Plateforme GenAI

L’objectif: permettre le développement, le déploiement et le suivi d’application d’IA générative à l’échelle de l’entreprise, en toute sécurité et conformité. Ce qui donne les avantages :

• Avoir accès à un socle technologique évolutif
• Accélère le développement de use cases
• Usage de bonnes pratiques d’architectures et des composants réutilisables de façon uniforme
• Démocratisation au sein de l’entreprise tout en maîtrisant les coûts
• Gestion des risques liées à la sécurité et la conformité de façon centralisée

#5 — Le retour d’expérience de Stellantis

Stellantis est un groupe automobile multinational franco-italo-américain fondé le 16 janvier 2021 résultant de la fusion des groupes Groupe PSA et Fiat Chrysler Automobiles. La transformation est en cours pour devenir une Tech Company.

Stellantis nous partage les cas d’usage de la GenIA :

Engineering:

• Catégorisation des données de véhicule de flottage
• Recherche intelligente des composants de la voiture

Purchasing:

• Aide à l’analyse des contrats
• Optimisation du process d’ordre d’achats

Supply chain:

• Génération de scénario de prévision de la demande

Sales & Marketing:

• Chatbot pour le support client
• Traduction live pour les concessions et les agents

After sales:

• Technical assistant pour les agents

IT for IT:

• Generation de code
• Assistante d’administration

Avec une vision long-terme:

• Affiner la stratégie MarketPlace: identifier les besoins ré-utilisables, créer de nouvelles fonctionnalités, développer la GenAI marketplace, Itérer de façon continue
• Elargir la stratégie d’ indexation: Intégrer une approche hybride, rajouter de nouveaux outils de stockage de type vecteur
• Intégrer la plateforme data: Construire des fonctions d’ingestion, créer des process bout à bout

Au delà de ce retour d’expérience sur la GenIA, j’ai adoré participer à cet AWS Summit. Si partir à la découverte des nouvelles technos du Cloud et rencontrer des experts ne vous fait pas peur, je vous recommande fortement d’y aller. On se donne rendez-vous en 2025 ?