Retour sur la conférence “Je like donc je suis : Quand Black Mirror révèle les dérives de notre société” au Festival Séries Mania

Cap Digital a organisé un cycle de conférences autour de la série dystopique Black Mirror l’an dernier. A l’occasion de la sortie de la nouvelle saison, retournons à la première conférence organisée lors du Festival Séries Mania à Paris ! (Attention, spoilers !)

Le 15 avril dernier, nous lancions à l’occasion de Séries Mania une conférence sur… Black Mirror. La première d’un nouveau cycle intitulé Black Mirror : Through the broken glass, dont les séances vont s’égrainer au fil des mois pour disséquer les épisodes de la saison 3.

Étrange idée, de la part d’un collectif d’innovateurs comme Cap Digital ? Pas tant que ça : on vous raconte.

Pourquoi se lancer dans l’analyse d’une fiction britannique à succès ? L’idée nous est venue comme une évidence :

• D’abord parce que Black Mirror s’attaque à toutes les technologies que nous suivons au quotidien (jeux vidéo, implants, réseaux sociaux, intelligence artificielle, drone, nanotechnologies, mobiles, réalité virtuelle etc.)
• Ensuite parce que nous partageons la conviction de son créateur, Charlie Brooker : si Black Mirror nous empêche de dormir, ce n’est pas tant à cause des technologies en tant qu’objets que de l’usage que nous pourrions en faire. Cette question de l’usage est centrale dans notre collectif.

Et à vrai dire, chez Cap Digital, nous côtoyons au quotidien ceux qui pensent la techno et tentent d’en devancer les usages. “Eux”, ce sont les entrepreneur-se-s (d’autres diront les “startupeur-se-s”), les ingénieurs, les développeur-se-s, mais aussi les sociologues, les mathématicien-ne-s, les philosophes etc. Comme Charlie Brooker, ils refusent d’être les complices passifs d’un futur qui leur échappe. A travers le cycle de conférences Black Mirror : Through the broken glass, nous souhaitons leur donner la parole. Objectif : disséquer chaque épisode, les analyser sous le prisme des derniers travaux de recherche et comprendre l’ambition des entrepreneurs qui investissent ces technologies.
Bref, sortir la tête de ces écrans noirs qui pétrissent nos angoisses et s’armer pour penser le présent et mieux comprendre les mutations en cours.
Qui sait, il est peut-être encore temps d’éviter que ces chroniques dystopiques ne deviennent prophétiques…

Pour cette première conférence qui s’est tenue le 15 avril au Forum des Images à Paris pendant le festival Séries Mania; nous avons demandé à Marie Turcan, journaliste chez Business Insider, d’animer les débats entre :

• Laurence Allard, Chercheuse à l’Université Paris 3-IRCAV (sociologue des usages numériques)
• Michel Gien, CEO de Twinlife sur l’épisode 1 saison 3 de la série Black Mirror, intitulé Nosedive (Chute libre).

Retour sur les grands enseignements de ces deux heures de discussion et d’exégèse de l’épisode 1 de la saisons 3 : NOSEDIVE.

— — –

Petite récap pour ceux qui n’ont pas encore vu l’épisode : l’intrigue se déroule dans un monde aux couleurs pastel où le quotidien des individus est rythmé par leurs évaluations et où leurs activités sont directement dépendantes de leurs notations. Il montre la lutte quotidienne que mène une jeune femme, Lacie, pour se faire une place dans cette société, et notamment accéder à la propriété.

— — —

1. JE LIKE
Sens et valeur du like dans une “société de l’individu”

Le like, notre nouvelle boussole ?

Notez bien cette phrase : “ Nos recherches, nos perceptions ou nos actes d’achats sont conditionnés par les notations”. Parle-t-on de l’univers de l’épisode ou de notre monde réel ? Si l’épisode Nosedive résonne si fort dans nos têtes, c’est précisément parce qu’il rattrape le réel en en montrant un reflet (pas si) grossissant.

Regardons cinq minutes autour de nous : l’évaluation des services que nous consommons régulièrement (restauration, livraison d’un repas, transport, logement de vacances, etc.) est devenue une habitude. Mieux, nous l’avons maintenant intégré comme un acte altruiste : donner son appréciation à un service et son prestataire servirait l’intérêt général en limitant le risque de mauvaises surprises pour les autres clients.

De la notation de service à la notation d’individu

Néanmoins, lorsque l’on utilise des plateformes comme Airbnb, Blablacar ou Uber, ce ne sont pas tant des services que des personnes que nous évaluons (hôte, chauffeur, …). En cherchant son logement pour les vacances, nous veillons au sérieux du loueur autant qu’à la qualité du bien. Nous privilégions les hôtes au statut “Super Hosts” et notes supérieures à 4 étoiles sur 5. Est-on vraiment ici si loin des sourires en faux-semblant de Lacie face à son miroir et son entourage ? Dans notre quotidien déjà, les hôtes savent que plus ils seront sympathiques, avenants, arrangeants, plus leur note sera élevée, et plus ils loueront.

Mais alors, nous direz-vous, quelle différence avec le commerce “traditionnel” qui a toujours été incarné par des individus ? Elle est de taille, c’est la note.

Les chauffeurs Uber, notamment, sont particulièrement dépendants des notes que leurs passagers leurs attribuent. Sans bonne note, impossible d’exercer pleinement leur activité. Serions-nous pleinement à l’aise avec un chauffeur ayant une note inférieure à ⅗ ? La notion de sécurité, très importante pour ce type de service, est confondue avec des critères subjectifs comme l’attitude du chauffeur. S’il est souriant, a de la conversation mais pas trop, vous propose des bouteilles d’eau et des bonbons et écoute la même musique que vous : bingo ! Vous lui mettrez la note maximale et lui permettrez par la même occasion de conserver son emploi. Dans Black Mirror, le barista est forcé de sourire et d’être le plus serviable possible avec ses clients pour espérer obtenir un maximum d’étoiles et, on l’imagine, ne pas être remplacé par son employeur par un individu possédant une note supérieure.

2. JE VALIDE
Jugement, algorithmes & identité

Info bien notée = info vérifiée ?

On voit bien les dérives d’un tel fonctionnement : quand la notation est subjective, comment maintenir la vérité ? La multiplication des fake news sur les réseaux sociaux nous prouve déjà que la véracité d’une info pèse bien peu face à l’identité de celui qui me la livre, ou me la partage. “Si tout le monde en parle, c’est sûrement vrai”. Les rumeurs, autrefois propagées par des chuchotements, se répandent aujourd’hui comme des traînées de poudre à travers les likes et les retweets, effectués par des individus mais aussi des bots ou des “tâcherons du clics”…

L’algorithme : le maître du jeu

Dans Nosedive, l’algorithme détermine la place qu’occupe l’ensemble des individus dans la société. Accès à une promotion, prix de location d’une voiture, obtention d’une réduction sur l’achat d’un bien immobilier, place dans un avion, ou même lit d’hôpital… Tout se “gagne” en fonction de son ranking social, ie de la note établie en temps réel par le vote permanent de ceux que nous croisons au quotidien.

Effrayant.

Mais pas si éloigné de notre réalité. De fait, les algorithmes régissent déjà notre quotidien : de l’organisation de notre flux d’information, jusqu’à l’attribution d’une place à l’université, ils sont partout, et leurs fonctionnements — souvent opaques — posent problème. A quoi rêvent les algorithmes, titre ainsi (non sans malice) Dominique Cardon pour pointer du doigt la “boite noire”. Une opacité que dénoncent les citoyens et qui mobilise le législateur. Suivant la principale revendication remontée par les internautes lors de la consultation de la Loi pour une république numérique d’Axelle Lemaire, le gouvernement a initié “Transalgo” (avec le concours de l’Inria). Cette plateforme scientifique a pour objectif d’établir la transparence des algorithmes et de mesurer leur loyauté.

Les algorithmes sont aussi au cœur de nos applications, réseaux sociaux et moteurs de recherche. Des médias qui ont, pour une grande majorité d’entre eux, basé leur modèle économique sur des revenus publicitaires qui, eux même, répondent aux lois algorithmiques. L’objectif : inciter les annonceurs à payer pour favoriser certains contenus par rapport à d’autres et contourner en partie la mécanique organique de l’algorithme.

Une stratégie visiblement payante puisque, selon le Syndicat des régies de l’Internet (SRI), le montant des investissements publicitaires en ligne en France a atteint 3,453 milliard d’euros net en 2016, supplantant pour la première fois le montant des investissements réalisés en télévision.

Fabriquer son identité pour être validé

Si cette évaluation s’avère utile dans un cadre commercial ou professionnel, la place qu’elle occupe aujourd’hui dans nos relations sociales pose de véritables questions éthiques. Selon Laurence Allard, il y a aujourd’hui, dans un contexte de crise des institutions, une nécessité de s’inventer, de se fabriquer une identité. Le like joue ainsi un rôle de validation à la fois du contenu partagé en ligne par l’individu mais également de l’individu lui-même dont la perception est influencée par la qualité de la relation que l’on entretien avec lui.

3. JE RÉFLÉCHIS
Évaluation : du contenu/service ou de l’individu ?

Profession : être soi-même ?

Aujourd’hui, explique Laurence Allard, le pouvoir est aux influenceurs et à la micro-célébrité : les nouvelles stars se font connaître depuis leur chambre par le biais d’une webcam connectée à Youtube et on les apprécie pour leur vision du monde et leur subjectivité. A la manière des Rêveries du promeneur solitaire de Jean Jacques Rousseau qui y exprimait ses états d’âme, sa vision du monde, les youtubers attirent les foulent et génèrent la sympathie de leurs fans pour l’expression de leur personnalité. Voilà la grande contradiction de notre présent : comment le culte de l’authentique et celui de l’apparence peuvent-ils coexister ?

Je like donc ils sont ?

Dans l’épisode Nosedive, c’est bien l’évaluation confondue du contenu et de l’individu qui est la base du système social d’une société ultra-normée et aseptisée. Black Mirror montre le “mauvais côté du miroir” en prenant appui sur la technologie pour caricaturer une tendance actuelle, celle de la micro-célébrité, incarnée par les influenceurs en ligne (youtubers, bloggers, instagramers etc.).
Aujourd’hui, les simples individus doivent travailler leur e-réputation pour accéder à un emploi, louer leur logement ou faire un trajet en covoiturage, tandis que les entreprises et les marques doivent s’incarner à travers des leaders d’opinion qui s’adressent aux communautés d’utilisateurs et clients sur les réseaux sociaux.

Anticipation ou métaphore du présent ?

Sur cette question, l’analyse de nos deux intervenants divergent : pour l’un, l’épisode nous éclaire sur de futures dérives d’usages de la technologie ; pour l’autre, la technologie n’est ici qu’un prétexte et le “saut prospective” que propose Black Mirror n’a finalement qu’un objectif : pointer des dérives déjà bien ancrées dans la société. Une société qui — même sans système de like et notations — prépare tous les jours ses individus à être jugés dans un milieu professionnel compétitif, violent, où le burn out s’est normalisé. Une société où l’influence de chacun est déjà trackée, mesurée et monétisée

4. JE HACKE
Exit, hacking ou voice ?

La vie comme un permis à point ? (Laurence Allard)

Michel Gien le répète, “dans cette société, pas de droit à l’erreur : n’importe qui dans un mauvais concours de circonstances peut être puni”. Très vite dans l’épisode, le like passe de pouvoir d’achat à instrument de contrôle. Quand l’héroïne de l’épisode passe en “Double Damage”, deux dynamiques s’exercent : un contrôle vertical (“Big Brother”, l’autorité qui s’impose à l’individu — en l’occurrence — l’agent de sécurité de l’aéroport qui lui inflige la sanction) et un contrôle horizontal (“Little Sisters”, l’inter-surveillance entre individus — ici, les autres passagers qui assistent à la scène et décident de mal la noter suite à son altercation avec l’agent de sécurité). Sans parler de l’auto-censure. Bourdieu en parlait, Laurence Allard le rappelle : nous sommes déjà dans une société où la domination sociale est intériorisée par les individus. Bienvenue dans “une descente aux enfers démocratique” (Michel Gien).

Solution : hacker le système ?

Quelle objectivité dans cette notation inter-individus ? Quand on note un chauffeur, note-t-on le service lui-même ou l’affinité avec le chauffeur ? Sur Airbnb, ou BlablaCar, ne cherche-t-on pas parfois désespérément des éléments matériels pour expliquer une note délivrée par un simple ressenti ? Comme l’explique Laurence Allard, les usagers ont souvent tendance à détourner les usages (à les hacker) : de nombreux passagers Uber, mal à l’aise avec un système compétitif qu’ils n’ont pas désiré, décident par exemple de toujours mettre 5 étoiles… Une manière comme une autre de fausser le système et de changer la donne.

On a alors soit une logique de défection, qui revient à s’extraire du système, comme l’a fait la conductrice de camion que rencontre Lacie sur son chemin, soit une manifestation, dans laquelle on exprime son rejet. C’est la théorie développée par Albert Hirschman : le choix entre ce qu’il appelle l’ “exit” ou le “voice”, à l’opposé de la démarche de “loyalty”.

Et si l’échappatoire était justement là ? Et s’il ne fallait pas voir cet épisode comme la preuve qu’il faut rester optimiste face à la technologie ? Car, en effet, ce sont bien les usages qui font qu’une innovation est bonne ou mauvaise et ils sont souvent détournés. “C’est toute l’ambivalence du numérique : le collectif a le pouvoir d’agir, de s’exprimer, de s’explorer, chacun peut devenir son propre média, mais seulement dans la cadre d’un rapport de pouvoir, dans un environnement formaté aux mains de sociétés commerciales imposant leur souveraineté économique” explique Laurence Allard.

Le pouvoir réside donc entre les mains de l’humain, qui est arbitre du bien-fondé des usages qu’il donne à une technologie “neutre”. Et même dans les pires des cas, lorsque les utilisations de certains empiètent sur le bien-vivre ensemble, des échappatoires restent ouverts. On peut “faire autrement ailleurs, hacker de l’intérieur” rappelle Laurence Allard. Un opt out reste toujours possible, et cet épisode explore précisément les conditions de ce retrait : l’exclusion, la dé-socialisation certes, mais aussi la liberté.

Replay de la conférence

Pour aller plus loin

• Découvrez le programme de la prochaine conférence de notre cycle Black Mirror à Futur en Seine le 9 juin « Vivre jeune pour toujours » (San Junipero)
• Lisez notre article Cap Digital lance lance le cycle de conférences “Black mirror : Through the broken glass”
• Faites le test Réalité ou Black Mirror ?
• Lisez notre dossier de veille sur l’intelligence artificielle
• Lisez notre dossier de veille sur les interactions humains/machine
• Lisez notre article Mort : la tech fait le grand saut
• Lisez l’article du Daily Mars #SeriesMania, Je like donc je suis