Sommes-nous prêts pour l’arrivée des robots sociaux ?

A priori non. Malgré tous les films mettant en scène des robots, l’avenir dépasse notre imagination et notre représentation actuelle des performances et utilités de ceux-ci… Par contre nous pouvons utiliser notre imagination créatrice et nos émotions pour concevoir des nouvelles formes d’interactions et services. Et dessiner le futur, au lieu de le subir.

May 4, 2018 · 16 min read

C’est le message principal de mon Talk TedX que j’ai voulu faire passer avec une mise en scène de 5 minutes avec une simulation de robot. Avec ce long article, je viens approfondir mon message, exposer quelques concepts sur l’intelligence artificielle et proposer un petit outil de travail pour réfléchir et concevoir autour de l’IA. Accrochez-vous, c’est complet et bourré de références !

J’ai démontré qu’il est possible avec très peu de moyen d’illustrer différentes situations avec un robot social, en l’occurrence dans ce TedX un robot musicien. Un Proof of Concept basé sur une représentation théâtrale en somme, une interprétation. Cette expérience de storytelling se voulait immersive. Elle contenait une performance musicale et un dialogue avec un robot simulé à l’aide d’un masque.

L’idée est de s’ouvrir aux futurs possibles et démarrer un dialogue constructif dans votre organisation, sur l’intelligence artificielle et les robots. Je vous proposerai plus loin une méthode de conception éprouvée par des spécialistes du design, permettant de faire appel à ses désirs et ses craintes, et de trier les idées fantasmatiques, illusoires de celles qui sont potentiellement faisables, idéalement viables. Pour cette étape d’exploration, je vous proposerai de faire appel à votre imagination, un peu de talent scénique, de la pro-vocation et du lien avec le contexte dans lequel vos clients et/ou citoyens évoluent.

Mais tout d’abord quelques bases de compréhension commune avant d’aller plus loin.

Le robot social est-il vraiment intelligent ? Aussi a-t-il vraiment besoin de l’être ?
Le robot social ? Une catégorie de robot conçu pour interagir avec l’humain, un robot qui impacte aujourd’hui le domaine de la santé et l’éducation et qui pourrait d’ici peu impacter le domaine de l’entreprise. Au delà du plaisir intellectuel, j’ai la conviction que c’est la catégorie la plus riche de la robotique, et celle qui nous conduira peut-être à un type d’intelligence artificielle “très humaine”, avec au centre la qualité relationnelle, ce qui, j’espère, contribuera au bien-être humain dans son ensemble. Il y aura aussi des externalités désastreuses dans cette quête d’imitation avec un grand risque reconnu d’un trop grand anthropomorphisme physique, tel que le propose Hanson Robotics, et intellectuel car doué de certaines capacités de compréhension et de réflexion, conduisant les êtres à l’isolement et les gouvernements à revoir leurs législations. Cette catégorie fut sans doute la moins intéressante d’un point de vue économique, dans un premier temps, le focus business de ces dernières années étant clairement sur les robots mécaniques, capable d’effectuer de tâches répétitives et pénibles tels que le travail dans les mines ou le simple passage d’aspirateur ménager. Mais les avancées récentes dans l’intelligence artificielle viennent booster le secteur de la robotique. En effet, l‘intelligence artificielle s’appuie non seulement sur des calculateurs très puissants et désormais bon marché, mais aussi sur les dernières avancées en neurosciences (par exemple quelle zone du cerveau nous amène à prendre des décisions), la psychologie (par ex. ce qui nous caractérise), les sciences sociales (par ex. ce qui nous rend heureux).

Les spécialistes divisent en deux grandes catégories l’intelligence artificielle (IA) qui impacte déjà sans que nous le sachions réellement déjà le web, le mobile, les produits et services que nous utilisons:

— L’intelligence artificielle limitée ou faible qui est spécialiste. Elle a été entraînée avec un set de données ciblées et des algorithmes optimisés pour mieux comprendre des problématiques très définies. Par exemple une IA limitée est capable aujourd’hui de reconnaître une image, traduire un texte, conduire un véhicule, détecter un cancer ou transcrire une parole. Elle est isolée dans un usage très simple. En l’état, il n’existe pas vraiment d’IA capable d’avoir un dialogue riche sur différents sujets. Il s’agit de scripts préconfigurés par des humains, à l’image d’une grande FAQ. Autant dire que c’est très limité. Qui n’a pas été déçu par Siri ou autre agent “intelligent” ?

— L’intelligence artificielle générale ou forte (AGI) qui est généraliste, est la quête ultime et pour certains tacite, d’une centaine de laboratoires privés (Nnaisence, Numenta, Deepmind) et publics amenés à travailler ensemble pour combiner les algorithmes et accélérer les avancées. Celle-ci demande évidemment une approche totalement interdisciplinaire et vient faire appel à toutes les sciences (et leurs savoirs et données). Visiblement elle devra tirer le meilleur des deux courants de recherche, les symbolistes et les connexionnistes, qui n’ont pas fini de se remettre en question.

Le futur d’une IA forte et éthique, sous-entendu qui ne nous exterminera pas et qui nous soutiendra dans nos quêtes de développements, repose beaucoup sur sa capacité à constamment observer le monde selon Stuart Russell. Ce relativisme culturel et “dans le présent”, défendu par les ethnologues et les philosophes est essentiel pour une intégration douce et adaptée aux préférences locales, préférences qui évoluent, parfois hélas à reculons.

Cette vision interdisciplinaire est conduite par une série d’instituts fédérateurs. Rien qu’en France, il est prévu de mettre sur pied 4 à 6 instituts appelés 3IA chargés d’assurer cette interdisciplinarité, à l’image de ce que propose le nouvel institut DATAIA. J’espère qu’ils intégreront rapidement la dimension conceptuelle et experience design voire industrielle comme le recommande Olivier Ezratty, même si cela peut sembler prématuré vu les défis techniques et scientifiques. En attendant, les locomotives chinoises, indiennes, israëliennes avancent et investissent massivement.

Dans les deux catégories s’articulent des problèmes et contraintes éthiques.

Problèmes éthiques

Du côté de la sphère civile, la crainte est connue, les employés ont peur pour leur emploi.

L’IA et les robots sociaux sont de par leur cohabitation dans un environnement évolutif des programmes de recherche continus, pouvant très rapidement être introduit dans notre monde. La recherche académique est soumise depuis longtemps déjà à des règles éthiques qui intègrent des principes directeurs tels que le respect des personnes, la préoccupation pour le bien-être collectif, la justice (exemple, le gouvernement du Canada). Dans le monde de l’IA, les principes d’Asilomar sont ceux qui me semblent le plus complet. Mais encore faut-il les étendre aux problèmes potentiels liés à la physicalité des robots, pouvant menacer l’intégrité physique d’un individu ou d’un groupe d’individus dont certains ne partagent pas les mêmes préférences. L’état d’esprit “Qui ne dit mot consent” ne fonctionnera pas. L’IEEE devrait venir fournir une réponse.

De manière générale, l’utilisation des données privées par les organisations est réglementée dès le 25 mai 2018 par la fameuse GDPR européenne impactant directement les données capturées par l’IA et le robot. Dans certains contextes d’utilisation, l’IA et les robots sont soumis de manière encore plus sécurisée aux règles du monde médical qui a adopté la déclaration de Taipei.

Du côté des gouvernements, il faut admettre que la France a frappé fort en déclarant lors d’un sommet qui fera date, des principes éthiques visionnaires:

  • Anticiper l’impact de l’IA sur le travail et expérimenter
  • Pour une IA écologique
  • Ouvrir les boîtes noires de l’IA
  • Pour une intelligence artificielle inclusive et diverse

En parallèle, la recherche privée, notamment celle qui est accélérée par l’opensource, partage sa vision, dénonce des mythes et veille à ne pas conduire l’ensemble de l’écosystème autour de l’IA et de la robotique en quarantaine.

L’IA limitée vient impacter chaque profession et son cadre déontologique et légal. Il convient de sensibiliser chaque institution sur la question. La réglementation européenne sur l’utilisation des données privées est la première étape légale tangible sur la question de l’usage des données. Il y a eu des abus, notamment avec les données des téléphones portables et la liste de vos amis sur les réseaux sociaux. Logique dès lors de s’inquiéter de la suite.

Or les téléphones portables sont les premiers robots que nous possédons dès aujourd’hui et qui s’appuient déjà sur des attributs humains. La voix de Siri est par exemple très humaine. Ils sont capable de sentir également notre touché ou nos mouvements ou pire, nous observer par le biais de la caméra, avec notre consentement, nous qui sommes inconscients des externalités et conséquences possibles. Leurs capacités techniques et d’interaction leur offrent déjà un champ du possible à surveiller de très près. J’expose rapidement dans mon talk la prochaine étape des chatbots: l’arrivée des agents intelligents avec visage personnalisé, créant une nouveau potentiel risque de manipulation à large échelle. J’en fais référence dans mon Talk et dénonce ces dérives potentielles.

L’IA générale vient impacter notre civilisation dans son ensemble et soulève des questions fondamentales, essentiellement la loyauté des robots et leurs droits liés. Sujet que j’ai abordé dans mon talk. Une nouvelle catégorie d’experts émerge: le spécialiste en éthique représenté en la personne par Stuart Russell qui cherche à définir les bonnes lois robotiques pour que le robot/IA reste maîtrisable par l’humain, danger dénoncé par feu Stephen Hawking, Elon Musk et Bill Gates. Nous risquons de connaître une nouvelle forme d’intelligence de notre vivant. Elle sera à priori ubiquitaire, contrairement à nous qui sommes figés dans nos corps.

En attendant cette folie technologique, c’est l’IA limitée qui mérite notre attention d’un point de vue business et sociétal pour les 5 prochaines années. Celle qui viendra s’intégrer dans des robots physiques mais aussi numériques, conçus pour interagir dans des situations particulières. Evidemment certains acteurs économiques tels que Another Brain de Bruno Maisonnier (père du fameux Pepper), déclarent intégrer de l’IA dite forte à des robots très prochainement.

Avec mon background de designer, j’ai abordé la phase de conception, celle où finalement tout se joue. La force du designer étant de savoir jouer avec les contraintes et trouver des subterfuges pour palier aux limites d’une matière, d’une interface, de la quantité de puissance des batteries, des capacités physiques du robot, etc. Ce que je propose n’est ni plus ni moins que de prendre les approches les plus utilisées dans les écoles d’Experience/Service design et recommandées également par des experts chez Deloitte ou DELL.

Ma proposition: une méthode centrée sur l’humain, le design thinking

Cette approche de storytelling/scripting est déjà appliquée pour designer et développer des chatbots, agents conversationnels, dont les dialogues potentiels ont été scénarisés et anticipés.

Par contre, la gamification permet de réfléchir au futur à 5–10 ans (une prospective du devenir) et d’explorer toutes sortes de situations incroyables mais potentiellement réalistes.

Faire appel à l’empathie permet de discerner les situations inconfortables des situations agréables. Ce processus créatif dit de design thinking doit par contre aller au delà de la notion simple de désirabilité pour inclure la faisabilité, la viabilité et un cadre éthique. Quatre grands facteurs de succès pour un projet durable. Apprendre par une simulation, une forme d’expérimentation et d’entraînement critique dans les sciences et le monde militaire, permettant un début d’assimilation des capacités du couplage IA+Robotique.

Je propose de nous appuyer sur l’excellent canevas des 3 loupes utilisées par IDEO, Doblin, et de multiples instituts de design, qui est en fait une version simplifiée du Business Model Canvas, complété avec un cadre éthique qui est acquis comme incontournable par l’ensemble des chercheurs en IA. Ce canevas sert à trier les différents scénarios émis et poser un drapeau rouge sur les idées sujettes à problème.

Outil de workshop

Schéma de gauche: 3 loupes d’IDEO — Schéma de droite: L’ensemble des parties prenantes

Ce modèle, que vous pouvez dessiner sur un grand tableau et utiliser comme support de vos post-its, permet de dialoguer en deux temps:

  1. Tour de table des différentes idées proposées. Celles qui semblent réunir les 3 conditions et qui sont donc au centre peuvent être déplacée sur le schéma de droite
  2. Tour de table des différentes opinions concernant les enjeux éthiques et de gouvernance de chaque idée.

Exemples de questions pour la 2ème partie:

  • Quels sont les principes et règles qui régissent le robot ? En quoi le concepteur est-il responsable des règles embarquées ? Comment se mettent à jour ces règles ?
  • Est-ce que l’usage du robot demandera-t-il une charte ? Qui devrait la lire?
  • Est-ce qu’il n’y a pas lieu de prévoir un changement de loi nécessaire ou potentiel?
  • Est-ce que le robot s’inscrit dans un ou plusieurs objectifs de développement durable (ODD) ?

Cependant, comme tout processus créatif, cela demande la mise en place d’un espace sécurisé sur le plan psychologique (safe space), en faisant appel à l’ouverture, écoute et respect. Aussi je recommande de structurer votre journée pour aider ceux qui ont besoin de repères ou qui n’ont pas l’habitude d’être dans un processus créatif où l’on passe d’un état de divergence à convergence, puis divergence à convergence, jusqu’à l’expression d’un potentiel projet.

Au delà de tordre le cou à des idées préconçues, plusieurs actions peuvent découler de ce workshop:

  • Faire émerger des enjeux et de problèmes imprévus
  • Mettre sur pied des groupes de réflexions autour de principes normatifs (lois, normes)
  • Formaliser des groupes de travail transdisciplinaires qui effectueront des recherches nécessaires pour décortiquer et approfondir les scénarios et les hypothèses
  • Faire des SWOT plus étendus
  • Identifier des potentiels partenaires
  • Motiver d’autres collègues et des potentiels sponsors internes
  • En somme, prendre des premières décisions

Un exemple d’analyse contextualisée avec les 3 loupes est disponible plus bas.

Une urgence, vraiment ?

La majorité de ces agents intelligents (chatbots) ne possèdent pas encore de couche d’apprentissage (machine learning) ni de renforcement de l’apprentissage, ni de simulation du neocortex (deep learning) et encore moins de principes robotiques appliqués. Mais nous allons vivre -et subir- via les technologies exponentielles que nous utilisons au quotidien ces prochaines années des évolutions et expérimentations à l’échelle mondiale au vu des dizaines de milliards qui ont été investis dans la recherche autour de l’I.A (par ex Google Translate ou Facebook Top Feed utilisent déjà des réseaux de neurones). La France vient d’annoncer d’ailleurs un programme ambitieux à 1.8Mia pour les 5 prochaines années et Emmanuel Macron lui-même est conscient de l’urgence à faire partie intégrante de l’écosystème global qui se développe pour amener les préférences, données et savoirs de la France dans l’IA forte.

Une disruption, quoi qu’il arrive

Qu’importe qu’ils soient très intelligents ou limités, avec l’intelligence d’un chat comme le dit Yann Le Cun, patron de l’IA chez Facebook, ils sauront nous parler, nous informer et nous distraire. L’humain passe bien des heures et des heures avec ses animaux de compagnie. Les robots sociaux (et avant cela les chatbots) seront à l’image des différentes cultures, gouvernements et industries qui nous environnent. Dans un monde aussi connecté, distribué et global, cela promet d’être radical. Pour certains pays aussi protégés et centralisés que la Chine, cela promet d’être effrayant aussi, à l’image de son système de crédit social. Les progrès et les méfaits qu’ils apporteront sont à dessiner, évoquer et à contextualiser avant tout.

Une gouvernance à la fois distribuée et fédérée

Je me suis demandé quel type de structure légale pouvait venir cadrer et légiférer ces technologies exponentielles. Evidemment, avec mon héritage de Suisse, qui croise par mégarde des statues de Henri Dunant ou plus récentes de Jean Piaget, j’imagine bien se créer de nouvelles fondations d’utilité publique dédiées aux enjeux transverses ou verticaux de l’I.A. et des robots, trait d’union entre gouvernements et industries. Je n’ai pas encore de réponse si ce n’est la conviction qu’une collaboration et un dialogue entre les institutions existantes, industries, NGO et gouvernements sont nécessaires dès à présent, en acceptant d’être en posture de design thinking sur les services proposés et en devenir, ET le cadre éthique présent et en devenir.

En bref, ne laissez pas les développeurs déterminer les règles en solitaire mais faites appel à la force du collectif autour de vous, collectif qui comprend votre contexte propre et ce qui vous rend unique. C’est mon cri d’appel, et j’espère qu’il touchera d’autres personnes sensibles (philosophes, sociologues, enseignants, législateurs, chercheurs, développeurs, etc) à rendre notre futur symbiotique et égalitaire.

Pour les spécialistes, quelques questions pour vous qui vont au delà de l’aspect gamification:

  • Quel type de connectivité pour quel type de robot social? Dispose-t-il d’une mémoire centralisée (comme Google), fédérée (comme l’email, ou holochain qui arrive), décentralisée (comme la blockchain) ou absolument autonome (comme un site hébergé par vos soins chez vous)? Cette connectivité a d’énormes conséquences sur le suivi, l’apprentissage, le dataset et la gouvernance (Hello Cambridge Analytica). Mais surtout cela a une incidence directe sur sa matérialité. Si son “esprit artificiel” est bloqué dans son corps, il ne peut être ubiquitaire et donc par exemple se loger dans une montre. La réponse est peut-être déjà sous nos yeux: connectivité similaire à notre ordinateur (multiples protocoles, réseaux, gouvernances, usages, couplages, sessions et donc utilisateurs…).
  • Quels chantiers de lois robotiques communes sont en cours réellement à l’ONU, à la Commission Européenne (coucou la GDPR), dans les NGOs par exemple vu que cela impacte les droits humains?
  • Quelles sont les conférences de 2018 qui viendront connecter les différentes parties de la société civile (et pas seulement économique)? On se voit à AI FOR GOODS (15 mai), Innorobo (16 mai), le Knowledge Tour (17 mai) ou encore Vivatech (24 mai)?
  • Que ressort-il de débats publics tel que celui initié par The Future Society ?

Exemple de réflexion basée sur les 3 loupes de l’innovation + cadre éthique

Prenons l’exemple du robot qui joue de la musique avec un humain.

Désirabilité d’un robot musicien (l’enjeu humain)

En quoi la situation vécue comble-t-elle un besoin ? Est-ce que le besoin est important ou négligeable ?
- le robot qui joue de la musique vient surprendre le spectateur. L’effet de surprise est une composante importante de succès d’un jeu scénique. A l’inverse, cet effet serait vite épuisé. Que ce soit les artistes Kraftwerk ou Daftpunk, l’imagerie du robot a toujours été bien accueillie sur scène, surtout quand elle se mêle au talent artistique, et constitue une référence culturelle dans la musique.

Est-ce qu’il va s’inscrire dans la vie de l’individu ?
- Oui, un robot musicien pourrait venir faire des performances chez chacun. Encore mieux si le robot sait aussi cuisiner, pour certains acheteurs.

Est-ce que cela sera pour autant vraiment désirable, y compris pour l’organisation qui va faire la conception ?
- Cela va dépendre de la capacité du robot à disposer d’une base musicale solide et personnalisable, d’un sens d’improvisation. La personnalisation: une proposition de valeur qui sera très vite au centre des facteurs d’achat. Aussi, il est important de prendre en compte non seulement le contexte de l’organisation conceptrice, mais également celui de son écosystème. D’où la question suivante , clée dans le succès de toute startup: Est-ce que c’est le bon moment pour être désirable ? Une pensée pour le Nabaztag, robot personnalisable français qui aurait sans doute plus de succès aujourd’hui et qui ferait peut-être un drôle de partenaire musical avec ses grandes oreilles.

Faisabilité d’un robot musicien (l’enjeu technique)

Est-ce que la technologie nécessaire existe déjà ou bientôt disponible ?

Oui. Du côté de la création, l’IA est capable de créer des morceaux de musique aussi compliqué que du Bach. Certains ne se privent pas de déléguer la phase initiale de création mélodique ou la phase finale de mastering. Le robot de son côté est capable d’une précision redoutable, y compris celle de diriger un orchestre.

Combien de temps cela va-t-il prendre ?

Un peu de planning stratégique, ne serait-ce parce que cela impacte la viabilité du projet, même si on part en mode agile.

Est-ce que l’organisation est capable d’exécuter cela en interne en l’état ? Et avons-nous le droit à l’erreur ?

Viabilité d’un robot musicien (l’enjeu business)

Quels sont les objectifs business ?

Quels sont les estimations de coût ?

Quel retour sur investissement ?

Un passage sur le business model canvas permet d’affiner les questions. D’autres questions-clés sont disponibles ici.

Cadre éthique d’un robot musicien (l’enjeu social)

Qui concerne les concepteurs
Quel impact sur les collaborations entre musiciens, si le robot devient compositeur ?
Quel impact sur la perception des performances humaines ?
Est-ce que le robot ne prend pas tout le budget laissant les autres musiciens avec un piètre salaire ?

Qui concerne les utilisateurs
Est-ce que le robot est sécurisé, peut-il tomber de la scène ?
Est-ce que sa présence peut heurter des sensibilités ? Doit-on avertir de sa présence ?

Qui concerne la Société
De plus en plus de startups comme
Amper Music développent des algorithmes, soulevant de nouvelles questions telles que la question du droit d’auteur et des redistributions financières.

Pour revenir à mon TEDx, quelques remarques sur l’échange avec mon robot:

Le robot Koh de son prénom effectue une série d’actions réalistes et d’autres fantaisistes. Je fais ici abstraction du coût financier d’un robot possédant ces facultés décrites ci-dessous (la loi de Moore s’appliquera-t-elle?)

Actions réalistes aujourd’hui

Mouvement
Il s’approche et s’éloigne de moi. En l’état il est déjà capable de faire des sauts impressionnants

Rétroaction
Il détecte mes émotions et change de comportement en fonction

Communication
Il peut raconter des informations dont il a eu accès ou enrichir une conversation existante par un savoir commun (par exemple Wikipedia ou des livres sur Google Book)

Création
Il est capable de générer ses propres sons et musiques

Dextérité
Ses doigts attrapent et tiennent des petits objets

Proxémique
Il est capable de détecter si quelqu’un le touche ou s’approche de trop près

Pensées réalistes aujourd’hui

Dialogue
ll interprète ma question et cherche une réponse adéquate dans une base de réponses disponibles

Jeu
ll dispose d’une suite de comportements susceptibles de nous faire rire et de nous émouvoir, y compris une façon de marcher rigolote ou extravagante

Conscience d’accès
Il sait qu’il prend des décisions

Actions irréalistes aujourd’hui

Dans la scène telle qu’elle a été jouée, aucune. Par contre il n’existe pas à l’état actuel, à ma connaissance, de robot social regroupant toutes les capacités décrites ci-dessus.

Pensées irréalistes aujourd’hui

Consentement
Il est capable de dire non à quelqu’un qui dessine par exemple sur son corps

Sens critique
Il n’a pas de sens commun, donc il ne peut pas savoir si ce que je fais ou dis, par exemple jouer de la guitare ou parler avec lui, est moral ou pas. Il est donc dépendant d’instructions pour assurer une relative sécurité

Conscience phénoménale
il n’éprouve pas

Sens de la confidentialité à géométrie variable et situationnelle
Le robot comprend par lui-même les choses qui relèvent de l’intime et celles qui peuvent être partagées, y compris en situation d’urgence ou d’accident

Prédictions
Il ne dispose pas de suffisamment de données pour effectuer des analyses prédictives d’une situation future, par exemple “est-ce que les spectacteurs vont applaudir?”

Quoi d’autre ? Cette réflexion est une ébauche sans cadrage académique. Si j’ai omis ou mal retranscrit un enjeu, faites-moi signe. Si cela vous a été utile, également !

Au plaisir d’échanger avec vous sur ces opportunités et risques.

r.briner at elium dot com

Raphaël Briner

Written by

Designer & Entrepreneur

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade