Le Web est-il une société ?

Ceci est un devoir que je publie à titre de mémo. En 2016 mes connaissances en IA étaient encore peu étendues et ce texte contient sûrement des approximations, mais j’ose toujours espérer qu’il puisse véhiculer certaines idées.

L’arrivée des applications dans notre quotidien a bouleversé nos usages d’internet. Apple déclarait à l’époque proposer “une application pour à peu près tout”. Dans un avenir déjà proche il n’est pas du tout impossible qu’un autre puisse déclarer qu’ “il y a une intelligence artificielle pour à peu près tout” (qui puisse tout faire ou même tout nous faire faire). De manière générale, on peut définir l’intelligence artificielle (IA) comme les machines ou programmes auxquels sont délégués des tâches faisables par l’homme en imitant ses procédés intelligents. Les intelligences artificielles se montrent particulièrement prometteuses dans le domaine conversationnel. Vers quels usages nous mènent les évolutions à venir dans ce domaine ?

1. Usages actuels de la conversation

a. Evolution des fonctions de chat sur Facebook

Depuis 2008 le site Facebook.com permet à ses utilisateurs de communiquer par l’intermédiaire d’une messagerie instantanée intégrée. Le site a développé son application mobile qui se voulait être la réplique du site Internet en version smartphone. Son évolution la plus flagrante a eu lieu en 2014: Facebook Messenger se dissocie de l’application Facebook et demande à être installée séparément par l’utilisateur.

Ces dernières années ont effectivement connu l’émergence de cette tendance à la séparation des usages répartis en applications différentes (Layout pour Instagram, Facebook Messenger pour Facebook, suite d’applis Google, Line Camera, Line Deco pour Line etc.) moins lourdes en chargement de data et en mémoire et récoltant des informations mieux ciblées sur les usages de l’utilisateur.

En 2015 sont ajoutées à Messenger les fonctions VoIP et partage de sommes d’argent. Depuis 2016 il est possible de discuter sur le réseau 2G grâce à son numéro de téléphone à travers Messenger, de faire des appels VoIP de groupe ainsi que de discuter en conversation “secrète” (cryptée de bout-en-bout).

2016 a vu l’apparition des premiers chatbots Messenger, probablement une des innovations les plus prometteuses pour les années à venir. L’application a tant évolué que certaines de ses fonctionnalités ne sont pas disponibles sur le site original de Facebook. Les messages sponsorisés devraient faire leur apparition sur Messenger courant 2017.

b. Evolution des usages de l’application

Messenger est aujourd’hui l’application de messagerie de référence dans les pays occidentaux pour ceux qui souhaitent discuter sans le numéro de téléphone de leur correspondant. En effet il est devenu plus facile de demander “son Facebook” à une nouvelle connaissance que “son numéro”.

L’appli propose aussi des services divertissants tels que les stickers, emojis ou GIF. Le SMS et surtout les appels sont paradoxalement devenus les derniers espaces d’intimité du smartphone, réservés aux bons amis ou à la vérification de son identité sur Internet. La conversation par SMS reste cependant utile en France pour les détenteurs de forfaits téléphoniques low-cost offrant peu de data incluses, ceux résidant dans des zones peu couvertes en 3G ou qui ne possèdent tout simplement pas de smartphone.

Dans d’autres pays, c’est a contrario le prix élevé du SMS par rapport au mégaoctet de data qui a participé à la montée en flèche d’applications comme Whatsapp et Messenger. Grâce à cela, Messenger et Whatsapp généreraient ensemble trois fois plus de messages quotidiens que les SMS. Pour capter les échanges SMS des utilisateurs récalcitrants, Messenger propose le chat en 2G sous réserve de relier son numéro de téléphone à son compte Facebook.

Les fonctions dites de “Voice Messaging” (envoi de notes vocales) particulièrement populaires en Asie rencontrent aussi de plus en plus de succès sur les applis de chat occidentales. Cette tendance marque une rupture grâce à l’arrivée de la voix comme medium dans notre quotidien numérique, qui sert largement le développement actuel et futur des assistants personnels et autres chatbots.

2. Chatbots, agents et commerce conversationnels

a. Principes-clés

Facebook a compris qu’après être intervenu sur le mode de conversation entre particuliers, il pouvait aussi investir le marché de la communication “peer to business”. Les chatbots s’annoncent comme le moyen privilégié de contact entre particuliers et professionnels pour les années à venir. Ceux-ci visent notamment à proposer une approche dichotomique des besoins de l’utilisateur en procédant par questions successives, plutôt qu’en le laissant crawler seul hasardement sur un site Web.

Par exemple, le chatbot Messenger de CNN propose d’accéder au contenu “editor’s picks”, “topics” ou tout simplement de proposer un thème sur lequel s’informer. Il déroule ensuite des propositions d’articles au sein de la conversation. Le chatbot VoxPopuli effectue, lui, des sondages politiques auprès des internautes et publie automatiquement les résultats obtenus jusque-là. Ce chatbot témoigne de la possibilité d’inclure une démarche démocratique au sein-même d’Internet et des réseaux sociaux. Une de ses dernières questions en date était par exemple “pensez-vous que François Hollande aurait dû se porter candidat aux primaires/à la présidentielle?”.

Si la démocratie se fait une place sur le web grâce à de telles inventions, on peut en effet considérer que le web, se voulant par essence politique, est une société.

Les chatbots sont envisagés comme la nouvelle interface avec le web que nous connaissons aujourd’hui. La tâche du crawling sera déléguée à des IA incluses soit dans Facebook Messenger ou assimilés, soit dans les assistants personnels de type Siri. Cette révolution du Web pourrait aboutir à une seconde vague “d’ubérisation”, où les IA pourront effectuer leurs recherches sur des critères objectifs sans prise en compte obligatoire de l’affect par rapport à la marque ou autres facteurs de préférence pouvant biaiser la recherche.

Dans ce cas il ne serait pas impossible d’envisager l’ubérisation d’Uber par des IA auto-apprenantes grâce au machine learning et à la fois chercheuses et récolteuses d’informations. Il est à noter que dans le même temps que cette explosion du marché de la conversation, le cryptage de bout-en-bout des conversations privées sera un outil clé pour s’assurer contre l’accès aux conversations privées par des tiers indésirables.

Il reste difficile de comparer la discussion avec un chatbot avec celle d’avec un humain : la technologie leur permettant d’analyser nos émotions et d’adapter leurs réponses en fonction de celles-ci est encore peu répandue. Cependant son développement devrait ouvrir de nouvelles voies quant aux usages conversationnels avec les IA et à leur champ d’action.

b. Dérives liées à la répartition des responsabilités

Elles seront capables de converser en imitant nos émotions, jusqu’à atteindre une certaine “empathie artificielle” évoquée par Serge Tisseron, qui modifiera nos relations avec elles. Cette empathie impliquera nécessairement d’accorder une confiance toujours plus grande aux IA, semblable à celle que nous accordons à nos animaux de compagnie ou aux autres humains, ce qui ne sera pas sans incidence sur la manière de traiter la répartition des responsabilités entre l’IA et celui qui la sollicite.

En effet il n’existe actuellement aucun cadre juridique permettant d’attribuer une responsabilité à une IA. Lorsqu’il s’agira d’une erreur de commande passée par l’intermédiaire d’une IA sur un site de e-commerce la situation pourra être aisément résolue. Le problème de responsabilité se pose cependant dans une plus grande mesure depuis la mort du premier passager d’une Tesla en mode “autopilot”. Son véhicule est entré en collision avec un camion, l’Autopilot n’ayant pas pu reconnaître la remorque en raison du contre-jour et de sa couleur peu dissociable de celle du ciel. De son côté le conducteur n’a pas activé le frein comme il devrait le faire en cas de danger. Dans ce cas concret il n’a pas encore pu être déterminé qui de Tesla ou du passager porte la responsabilité de l’accident.

Il est nécessaire pour cela de distinguer différents niveaux de pouvoir accordé à l’IA que sont les notions de suggestion, recommandation et obligation.

La responsabilité de l’IA est à déterminer en fonction de ces degrés car ils permettent d’identifier l’influence portée sur l’homme par l’IA au moment de la prise de décision.

Conclusion : Le développement rapide des chatbots et des IA nous mène vers de nouveaux usages d’Internet et de nouvelles interfaces. Le rôle des widgets actuels est totalement revisité grâce aux IA qui permettent un crawling plus simple et ciblé mais qui posent de nombreuses questions de responsabilité en cas de dérive. L’économie actuelle pourrait se voir elle-même « réubérisée » par de tels changements. L’influence des machines sur nous est grandissante et nous acceptons de nous voir recommander de plus en plus de choses en raison de leur empathie pour nous, tout artificielle qu’elle puisse être.

La rupture entre les différents stades de recommandation est à surveiller de près afin de ne pas nous rendre compte trop tard que ce qui nous apparaît comme une recommandation peut être une obligation formulée par une intelligence artificielle.

Il devient nécessaire de penser rapidement à un cadre juridique pour les intelligences artificielles en commençant par exemple par suivre scrupuleusement les règles énoncées par Asimov en 1942 :

1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger

2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi

3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi