Le Récap’ du 31 août : #Droit&DarkPatterns, #MenaceSurL’InternetAfghan, #HackersContreDictatureBiélorusse, #Art&IA

#Droit&DarkPatterns

En promulguant le California Consumer Privacy Act le 15 mars 2021, la Californie est devenue le premier État à bannir l’utilisation des « dark patterns » par les concepteurs d’interfaces numériques. Cette avancée législative vise à réguler l’exploitation des biais cognitifs humains (réflexes de pensée inconscients et faussement logiques afin d’économiser du temps et de l’énergie à travers des raccourcis mentaux) par les concepteurs d’interfaces numériques. Dans un éditorial, l’avocate Betty Jeulin revient sur les « dark patterns », mécanismes reposant sur plusieurs techniques (captation de l’attention, création d’un sentiment de frustration ou de plaisir, etc.) afin de guider nos actions (effectuer des achats compulsifs ou livrer ses données personnelles), et sur la place qui leur est accordée dans le droit européen à l’ère du numérique. Si la captologie n’est pas une science nouvelle, le numérique permet aux algorithmes de s’adapter en temps réel à nos réactions et de les manipuler. Ce marché en plein essor est source de nombreux risques (addiction, dérégulation de notre capacité à lire le monde…) et n’est cependant régi par aucune régulation globale. Les changements récents des États-Unis amorcent un mouvement vers plus de réglementation concernant ces techniques. En Europe, deux tendances se distinguent : une réglementation basée sur les fondements du droit du consommateur ou bien la création d’un « droit à la protection de l’attention ». La première tendance s’ancre ainsi à travers des amendements ayant pour objectif de d’assurer de la clarté concernant les conditions d’utilisation des services en ligne, afin que le consommateur puisse avoir conscience des mécanismes qui les sous-tendent. Concernant la création d’un « droit à la protection de l’attention », défendu par plusieurs études et rapports, cette méthode conduirait à imposer aux services d’expliciter l’ensemble des contenus “addictogènes” utilisés et d’accorder la possibilité aux utilisateurs de personnaliser le service utilisé (comme le prône le modèle du Règlement général sur la protection des données). Tenir compte de l’attention grandissante accordée aux « dark patterns » semble fondamental alors que les entreprises conçoivent les interfaces clients. (Lire l’article)

#MenaceSurL’InternetAfghan

Alors que les talibans s’installent progressivement aux commandes de l’Afghanistan et prennent le contrôle des administrations étatiques, le groupe a en ligne de mire une nouvelle étape : le contrôle des infrastructures numériques, qui depuis 20 ans garantissent l’accès des Afghans à internet. Une grande interrogation entoure les usages que le nouveau régime fera d’internet (traque des dissidents, réduction de la liberté d’expression…). Alors qu’Internet a été un allié indispensable pour le groupe islamiste au cours de la conquête du pays, ces derniers ne prévoient surement pas de garantir la même ouverture à la population. Pour l’instant, internet reste relativement libre d’accès. Cependant, la prise de pouvoirs des talibans a fait prendre conscience aux citoyens de leur empreinte numérique et nombreux sont ceux qui ont supprimé leurs comptes sur les réseaux sociaux ou des contenus en ligne susceptibles de les incriminer. Plusieurs ONG ont alerté le 25 août dernier sur les risques que représentent les bases de données biométriques (dont certaines sont déjà aux mains des talibans) et qui pourraient leur permettre d’instituer un système de surveillance généralisé. Une véritable censure des contenus est aussi attendue et l’un des leviers d’action du régime sera vraisemblablement la fermeture de l’accès à internet dans certaines régions (mettre en place un système de surveillance d’inspiration chinoise semble bien plus compliqué). Le risque pèse aussi sur les opérateurs de téléphonie mobile qui ont été sommés de transmettre leurs données. En outre, une grande partie de ce marché est assuré par des entreprises internationales (MTM ou Etisalat) qui pourraient être amenées à fuir et à laisser des millions d’abonnés sans réseau. (Lire l’article)

#HackerContreDictatureBiélorusse

Depuis son accession au pouvoir en 1994, Alexander Loukachenko a mis en place le système étatique le plus répressif d’Europe et a usé de son pouvoir afin de se maintenir à la tête du pays. Un groupe de hackers, Belarus Cyber Partisans, essaye désormais de retourner la surveillance de l’État contre lui-même dans ce qui semble être l’opération de piratage d’un pays la plus légitime de l’histoire. Les activistes informatiques font ainsi fuiter des preuves des crimes commis par la police, la falsification d’information durant la pandémie du Covid-19 et des enregistrements illégaux. Les activistes considèrent cela comme un avant-goût de ce qu’ils peuvent faire, car ils revendiquent avoir accès à des quantités incroyables de données et leur objectif final est de mettre fin à ce régime de violence et de répression. Ce groupe est soutenu par BYPOL, une organisation constituée de fonctionnaires du régime, déçus et effrayés par la politique de Loukachenko, qui offrent de précieux renseignements sur le fonctionnement interne des organes d’État et sur la structure des bases de données gouvernementales. En Biélorussie, les revendications avaient repris de l’ampleur en août 2020 du fait des accusations de trucage de l’élection en faveur du régime et avaient conduit les pirates à défigurer le site de l’État. Afin de diffuser ses enquêtes, BYPOL passe par un canal Telegram (avec 77 000 abonnés), en espérant une diffusion assez large pour pouvoir saper le régime à tous les niveaux. Ces actes de piratage ont une symbolique forte puisqu’ils montrent que le régime n’est pas infaillible, ce qui donne de l’espoir aux contestataires. (Lire l’article)

#Art&IA

L’artiste, Ian Cheng est connu internationalement pour son usage de l’intelligence artificielle et des jeux vidéo pour explorer des thèmes qui lui sont chers (nature, conscience humaine ou encore avenir de l’homme en coexistence avec les machines), effectuant ainsi une synthèse entre sa formation en art et sa formation en sciences cognitives à Berkeley. Sa dernière œuvre, « Life After Bob: The Chalice Study » est une « animation narrative » (elle sera notamment exposée au Shed le 10 septembre) et un commentaire sur le potentiel de l’intelligence artificielle (IA) à “abimer” des vies. Cette œuvre retrace l’histoire d’une fillette de 10 ans dont le père a inventé l’IA BOB et lui a implantée dans son système nerveux à la naissance. Le récit est axé sur les évolutions numériques et s’inspire de la psychologie et des neurosciences pour traiter de l’apprentissage automatique et de l’IA. Ce qui fait la singularité des œuvres de Ian Cheng est qu’elles sont réalisées avec l’aide de Unity, un logiciel conçu pour simplifier les tâches du développement des jeux vidéo. Cela lui permet de simuler le monde réel et de produire des animations en temps réel dans lesquelles la même chose ne se produit jamais deux fois. Au fur et à mesure, Ian Cheng a introduit des personnages afin de les faire interagir avec leur environnement. Pour lui, l’art est une zone de permission où il peut forger des œuvres véritablement singulières. Le programme BOB qu’il avait développé il y a quelques années n’était pas seulement imprévisible, mais il était doté d’une certaine sensibilité, chaque visiteur en avait une expérience différente (bien qu’il se présentât toujours sous la forme d’une énorme créature rouge). « Life After Bob » paraît plus conventionnel au premier abord. Cependant, l’animation est vivante en ce qu’elle se génère à nouveau toute seule à chaque visionnage et en temps réel (pas comme une simple vidéo). En outre, après l’avoir regardée, le spectateur est invité à s’immerger dans ce monde virtuel avec son smartphone sur un autre écran de la salle. Cette expérience est inspirée de la manière dont sa fille s’immergeait dans les livres pour enfants en donnant l’impression de vouloir se plonger dans tous les détails d’une histoire. À travers sa dernière œuvre, Ian Cheng cherche à donner une troisième dimension, une profondeur aux vidéos et aux films afin de pouvoir y pénétrer et d’accéder complètement à l’univers qu’il crée. (Lire l’article)