GPT-3 et la start-up du futur
Dans cet article, je propose une réflexion à partir d’un projet développé pour GPT-3 qui consiste en un “prompteur à idées de start-up”.
Les bases
GPT-3 est un « modèle de langage développé par la société OpenAI annoncé le 28 mai 2020 et ouvert aux utilisateurs via l’API d’OpenAI en juillet 2020 » (Wikipedia, article GTP-3).
En gros, c’est une intelligence artificielle capable de générer des textes qui ressemblent à du texte écrit par l’humain. Techniquement, c’est comme une immense base de données dans laquelle on aurait mis tous les textes présents sur internet, et à qui on aurait demandé d’apprendre quel mot a le plus de chances de se retrouver à côté duquel, statistiquement. Bien sûr, qui dit texte, dit aussi programmation, et en partant de ce constat on s’imagine bien que les possibilités de cet outil sont infinies.
De multiples expériences ont été réalisées à partir de la première version mise à disposition de certains développeurs agréés, mais nous ne traiterons ici que de deux cas particuliers.
GPT-3 écrivain
Le premier est signé Gwern Branwen, développeur / écrivain / expérimentateur, qui a utilisé ce modèle de langage pour créer des pastiches du style d’écrivains célèbres, entre autres. La puissance de GPT-3 étonne, au premier abord. L’IA est capable, à partir d’une donnée de base aussi minimale que le [nom de l’écrivain] + [début de texte], de produire un résultat qu’un être humain a de la peine à distinguer du style de l’auteur.
Transformer AI poetry: Poetry classics as reimagined and rewritten by an artificial intelligence.
“Sonnet 18”
William Shakespeare
Shall I compare thee to a summer’s day?
Thou art more lovely and more temperate:
Rough winds do shake the darling buds of May,
And summer’s lease hath all too short a date;
A winter’s day, when beams of sun are few,
And skies are grey with clouds intemperate,
Is to thy beauty somehow sordid grown.
Her lovely-lovely eye is quite shut up,
Like windows pale before a sunny shower.
The earth that’s cold and moist, like to my mistress,
When once that she unbrac’d, her lovely jewel,
Grows as both ugly and uncourtly.
Poor soul, the center of my motley host,
See, now they request thy sovereign presence;
The din of merry hearts hath brought me thus
To greet thee, thou unsoil’d and saint-like beauty.
Source : https://www.gwern.net/GPT-3#william-shakespeare
Au-delà du caractère impressionnant de cet exercice au premier abord, on peut tout de même s’interroger sur la prouesse que ceci représente. En vérité, à partir d’un vocabulaire de base restreint par les instructions de base données au langage, c’est à dire « vocabulaire anglais du XVIème siècle » / « longueur de vers imposée » / « tous les poèmes de Shakespeare présents dans ta base de donnée » / « un contexte de base imposé par quelques mots clés tels que summer, love, may », l’IA se retrouve avec suffisamment de limitations pour produire quelque chose qui tient plus du collage que de l’invention. Bien plus qu’une révolution technologique dans le fonctionnement de la machine, ce qu’il y a d’intéressant ici c’est la permanence du fonctionnement du cerveau humain qui projette son propre imaginaire et ses propres visions sur une suite de mots.
GPT-3 entrepreneur
Le deuxième exemple est signé @levelsio, un développeur/expérimentateur ayant mis au point une utilisation tout à fait originale de GPT-3. Sur une page pour l’instant en accès privé (edit : désormais en accès libre ici), il propose un « prompteur d’idées d’entreprises » générées entièrement par le modèle de langage en question.
Les exemples ci-dessus sont des idées fabriquées par GPT-3. Le modèle mis en place par @levelsio consiste en une plateforme où les utilisateurs upvotent ou downvotent des idées pour entraîner l’IA et lui permettre d’améliorer ses propositions. Une mécanique permet à l’utilisateur de mettre une idée de côté si elle lui paraît particulièrement révolutionnaire.
L’idée est géniale, à tel point qu’on pourrait se demander si l’IA aurait pu avoir elle-même l’idée de sa propre génération. « Créer une entreprise qui utilise une intelligence artificielle pour générer des idées d’entreprise ».
Mais ce qui m’intéresse ici c’est d’utiliser ce projet comme matière à réflexion sur ce qui est en train de se produire sous nos yeux. Une première critique que l’on peut faire de GPT-3, et qui n’a rien à voir avec ce projet particulier, bien qu’on courre le risque que ces idées d’entreprises soient exposées aux mêmes faiblesses, c’est que suivant la base de données sur laquelle l’IA est entraînée, elle peut apprendre des informations fausses, offensantes, genrées, racistes, facistes, et ainsi de suite. Le tweet suivant résume tout cela, et je ne reviendrai pas là-dessus.
J’aimerais réfléchir à partir de l’exemple du prompteur d’idées d’entreprises. Passé l’étonnement initial, et à moins de rester fasciné par la prouesse technnologique, ou l’idée géniale du développeur ayant pensé à cette plateforme (une idée bien meilleure que toutes celles que l’on trouvera sur la plateforme elle-même), la plupart des idées présentées par l’IA sont pour le moins banales.
La force tient de la formulation concise qui donne lieu au fantasme. En fait cela ressemble comme deux gouttes d’eau à un synopsis de film prêt à être commercialisé. On dirait que l’idée est précise, mûre, réfléchie. On pourrait dire que l’on est ici face au biais de concision, qui fait qu’une idée si elle est formulée de façon simple paraît géniale et innovante, alors qu’elle n’est qu’une association hétéroclite de buzzwords.
Ce qui est absurde c’est qu’au fond ce sont des humains qui upvotent ce qu’ils considèrent “intelligent”. En théorie, ils le font selon des critères rationnels, ce qui permet à l’intelligence artificielle d’apprendre, en réalité ils le font probablement beaucoup plus selon leurs propres désirs, fantasmes et projections.
Il faudrait, pour pouvoir entraîner l’IA selon des critères véritablement formels que l’humain puisse lui-même observer ses réactions avec objectivité. Certes, l’intelligence souhaite apprendre et s’améliorer, mais en même temps ce qu’elle apprendra sera probablement bien plus :
- L’instinct grégaire de l’humain (upvote qui amène upvote)
- Ce que les humains désirent, projettent, souhaitent, rêvent d’avoir VS une sorte d’objectivité qui la ferait apprendre la “meilleure” idée.
- Elle aura de la peine à savoir si la popularité est liée aux “potentiels revenus” d’une idée, à son caractère novateur, à sa beauté, au fait qu’elle propose une solution sauvant l’humanité, etc.
Evidemment, ce ne sont là que des suggestions d’optimisations à amener aux projets entourant GPT-3 et ses différentes utilisations. Une infinité d’intentions humaines existent et luttent pour définir la direction et l’usage qu’il serait souhaitable de faire de ces nouvelles technologies. Certaines louables, d’autres moins.
Un prompteur d’idées est une béquille intéressante si on le considère comme une aide lorsqu’on manque d’imagination entrepreunariale, c’est autre chose si on le considère comme un guide quand on manque de perspectives sociologiques.
