Soirée “Frictions de l’Innovation Publique #2 : Métamorphoses du droit”— Tentative de compte rendu

Nous proposons ci-dessous le compte rendu de la seconde soirée « Frictions de l’innovation publique » qui s’est tenue le 12 février dernier au Liberté Living Lab dans le cadre de la Chaire « Innovation publique » entre l’école Nationale d’Administration (ENA) et l’école Nationale Supérieure de Création Industrielle (ENSCI-Les Ateliers).

Organisée par l’agence Où sont les dragons et en partenariat avec Open Law, cette seconde soirée a permis de présenter le programme de recherche « Modes de conception du Droit » qui étudie les nouvelles formes du droit, leurs implications pratiques et leurs applications concrètes entre adaptation des cadres juridiques pour favoriser l’innovation publique, algorithmes et numérisation du droit, et approche de la conception du droit par le design.

Après un premier temps dédié à la présentation générale du programme (« Mode de conception du droit » de la chaire ENA-ENSCI « Innovation publique »).

La soirée a permis de présenter les premières réflexions, expérimentations et résultats du programme de recherche-action autour de trois axes :

1. Droit et Innovation
2. Droit et Design
3. Droit et Algorithmes

« Mode de conception du droit » : explorer les évolutions du droit, ses usages et ses formes

[Présentation par Apolline Le Gall (Coordinatrice du programmes Modes de Conception du droit de la chaire “Innovation Publique” ENA-ENSCI et co-fondatrice de l’agence Où sont les Dragons)]

Un programme interdisciplinaire de recherche-action

Apolline Le Gall a introduit la soirée en présentant le programme « Modes de conception du droit ».

Celui-ci comporte deux particularités :

• Il repose sur une approche de recherche-action qui articule études de cas, analyses de terrain et expérimentations afin de produire de la connaissance. Il s’agit donc de faire des aller-retours entre la théorie et la pratique
• Il rassemble une communauté de contributeurs autour d’une approche interdisciplinaire — qui articule théoriciens et praticiens du droit et du design, informaticiens, sociologues, gestionnaires — afin d’expérimenter et théoriser les évolutions du monde du droit et de ses pratiques.

Le droit : un objet créatif et mouvant

Du fait de son ancrage au cœur de la démocratie et de l’action publique, le droit est un objet mouvant, qui agit sur, et évolue avec, l’environnement politique, social, économique, technique…

Ce n’est pas un phénomène nouveau, mais on constate aujourd’hui le besoin de réactualiser ces réflexions au regard de certaines évolutions importantes, qui sont, pour beaucoup, liées à la numérisation de notre société.

Parmi ces dynamiques, Apolline Le Gall cite notamment :

• les dynamiques liées à la modernisation et la numérisation des services de l’Etat, mais aussi du monde privé, à l’instar des plateformes, avec notamment l’apparition de nombreuses “legaltech”
• ou encore la volonté de désintermédiation et d’horizontalisation des échanges, qui s’exprime de plus en plus, de la part des usagers-justiciables comme des professionnels, comme en témoigne par exemple le mouvement du “langage clair” (comme le promeut l’association “Droits Quotidiens.be”).

Ces dynamiques de transformations invitent à finalement les façons dont s’écrit, s’applique, se pratique le droit aujourd’hui.

Envisager le droit comme un « objet de conception »

Pour appréhender cet objet complexe, le programme mobilise une grille de lecture qui envisage le droit comme un « objet de conception ».

En s’interrogeant sur le droit en tant qu’objet à concevoir, le programme mobilise une perspective qui permet d’envisager à la fois :

• le droit comme discipline de projet et d’en reconnaître le caractère créatif et mouvant
• mais aussi le droit comme matière dont on peut penser les structures et formes
• et le droit comme écosystème de conception, dont on peut interroger la multiplicité et le rôle des acteurs qui interviennent dans sa conception et ses usages, qu’il s’agisse des professionnels du droit et/ou des justiciables.

« Cela va nous permettre d’interroger la façon dont s’imaginent, se discutent, se prototypent, s’incarnent les différentes formes et niveaux du droit » (Apolline Le Gall)

Les trois axes du programme de recherche sont ensuite présentés par les différents intervenants, à partir de cas concrets.

1. Droit et innovation : repenser l’articulation des cadres juridiques et des processus d’innovation

[Une présentation animée par Caroline Cottaz-Cordier (Global Lead for Legal & Contract Management, ATOS) et Matthias Béjean (Maître de Conférences HDR en Sciences de Gestion, Université Paris-Est-Créteil (UPEC) + ENSCI-les Ateliers)]

Cette première thématique s’intéresse au lien entre processus d’innovation et cadres juridiques.

Mathias Béjean présente les résultats de ses premiers travaux autour des « Labs » et de la notion « d’internormativité ».

Les Labs (FabLabs, Living Labs, Open Labs…) constituent des formes inédites de collaboration et de création intra ou inter-entreprises. Celles-ci viennent interpeller tant :

- les normes de gestion existantes (quant aux modalités de management de l’innovation et de la créativité, management de projet, management de relations clients-fournisseurs, management d’équipe, stratégies de valorisation…)

- que les normes formalisées par le droit (par exemple : les régimes de propriété intellectuelle et industrielle, les régimes de travail, etc.)

Ces tensions se traduisent souvent, dans la pratique quotidienne des acteurs, par des conflits : tensions entre les régimes de droit applicables et les modalités de management d’innovation ; tensions entre les régimes de droit applicables en eux, tensions entre les leviers stratégiques et juridiques mobilisables par les entreprises.

C’est ce que Mathias Béjean qualifie « d’internormativité ».

Pour lui, les limites des régimes juridiques actuels pour les formes d’innovation ouverte et collaborative telles qu’elles sont pratiquées dans les Labs appellent donc à imaginer de nouvelles formes d’intervention du droit, et notamment à imaginer des configurations d’actionnabilité du droit adapté à chacune des différentes phases des projets d’innovation portés dans les Labs.

Caroline Cottaz-Cordier complète cette réflexion à partir de son expérience au sein de la direction juridique et du contract management du groupe ATOS.

Illustrant la notion d’internormativité soulevée par Mathias Béjean à partir d’exemples de projets d’innovation mis en œuvre au sein d’ATOS, Caroline Cottaz-Cordier évoque quant à elle une « inflation normative » :

« Je dis ‘inflation normative’ parce que cela va au-delà du ‘droit’, on est confrontés tous les jours à des questions de normes, pas que juridiques, par exemples les ISO, etc. Donc ce phénomène d’internormativité, on le vit au quotidien et sur toutes les dimensions des normes » (Caroline Cottaz-Cordier)

Une intervention du droit plus précoce dans la définition des objectifs et de la stratégie (tel que développé par l’école nordique du droit proactif ou par le courant américain porté par le professeur Robert C. Bird considérant le droit comme source d’avantage concurrentiel) combinée à une collaboration renforcée entre les professionnels du droit et des autres disciplines contribuerait à éviter de recourir au droit en dernier ressort (fin de projet ou contentieux).

Ces pistes invitent donc à penser de nouveaux modes et temps d’intervention du droit qui vont contribuer à faire pivoter les professions juridiques vers d’autres disciplines …mais aussi vers ses utilisateurs (pour s’adapter à eux).

Autrement dit : les processus d’innovation viennent interroger les cadres juridiques et leur implémentation dans les systèmes de gouvernance de l’innovation. Ces cadres juridiques, qui articulent et encadrent les activités d’innovation, peuvent donc constituer des freins, mais aussi des leviers d’innovation.

Les notions d’inflation (ou encore appelée “densification”) normative et d’internormativité soulignent donc que, pour Mathias Béjean et Caroline Cottaz-Cordier, il faut penser management de l’innovation et cadres juridiques de concert. Et pour cela :

2. Design et droit : penser le droit et ses usages par leur forme

[Une présentation animée par Apolline Le Gall, coordinatrice du programmes Modes de Conception du droit de la chaire “Innovation Publique” ENA-ENSCI et co-fondatrice de l’agence Où sont les Dragons)]

Cette deuxième thématique explore la mobilisation du design dans le domaine juridique, c’est-à-dire la façon dont cette approche de conception, centrée sur le sens, les usages et les formes, peut venir réinterroger le droit, sa conception, son application, sa réception, ses pratiques…

Depuis quelques années, on assiste à l’émergence d’un espace de pratiques autour du « design du droit », qui est le produit d’une double trajectoire :

• du design vers le droit
• du droit vers le design

Trajectoire du design vers le droit : du design industriel au design du droit

Apolline Le Gall commence par retracer l’extension du domaine du design vers le domaine juridique.

Le terme « design » provient d’une racine latine « disegno », qui a donné en français deux termes qui éclairent bien la nature double de cette pratique :

• « dessein » : le but, l’intention
• « dessin » : le trait, la forme

« Le design, c’est donc cette activité qui permet à la fois de formuler des questions, des valeurs, une intention, et de les formaliser, leur donner forme dans l’expérience sensible » (Apolline Le Gall)

On parle ainsi de design graphique, de design d’objets, de design d’interface (UX/UI design)…

Depuis les années 1990, on parle également de design de services, voire (depuis les années 2000) de design de services publics ou de design de/pour l’action publique, ou de design pour l’innovation sociale.

Fort de cette extension progressive du design à des enjeux systémiques, sociaux et politiques, on voit apparaître des designers qui s’intéressent spécifiquement et explicitement au droit comme objet de design, c’est-à-dire à penser son sens, son usage et ses formes sensibles.

Du droit vers le design : Innovation et legal design

En parallèle, un autre mouvement émerge du point de vue des juristes qui s’intéressent au design.

Les dynamiques liées à la numérisation, l’algorithmisation, l’IA… et l’évolution des justiciables et citoyens dans leurs besoins et leurs usages (déjà évoquées dans cet article) amènent les juristes à identifier un besoin d’innovation qui dépasse les enjeux technologiques pour repenser tant leurs outils et pratiques, que les postures et les formes de relations avec les usagers et entre professionnels du droit.

Face à ces besoins d’innovation et d’évolution, Margaret Hagan formalise dès 2014 le « legal design ». Fondé sur le modèle du « Design thinking », ce courant propose un ensemble de méthodes et de guidelines destinées aux juristes pour rendre le droit plus accessible, inventer de nouveaux business et résister au technocentrisme des legal tech.

Pour Margaret Hagan, il y a besoin de renouveler l’approche en changeant les méthodes de travail des avocats et en travaillant avec des designers.

Ces deux mouvements complémentaires aboutissent donc à l’émergence de ce nouveau champ de pratiques : le design du droit.

Mais que peut faire concrètement le design pour le droit ?

Apolline Le Gall identifie enfin 3 potentiels du design pour le droit à partir de la présentation de deux exemples concrets d’expérimentations pédagogiques et de projets menés par l’agence Où sont les Dragons : un « lab » mené à l’Ecole Française du Barreau de Paris (école d’avocats) et un « studio expérimental » mené à l’ENSCI-Les Ateliers (école de Design).

1. Rendre compréhensible

Le premier potentiel du design est lié à la capacité à rendre plus lisible et compréhensible le droit : en mobilisant les capacités de formalisation du design, dans une longue tradition de mise en lisibilité, de médiation (culturelle et/ou scientifique) par la mise en page, l‘application ou le web, l’espace … le design peut ainsi permettre de rendre les informations et les services juridiques plus attirants car moins complexes d’une part, mais également plus transparents : les individus peuvent avoir prise sur les situations qui les concernent et prendre des décisions éclairées.

2. Améliorer l’expérience

La deuxième dimension a trait à l’amélioration de l’expérience : à travers la mobilisation des compétences expérientielles du design, qu’il s’agisse du user research, UX design, design de services, design d’interfaces… Cette articulation entre intention, sens et formalisation de l’expérience ouvre la voie à penser des expériences pertinentes tant pour les justiciables que pour les professionnels, et à re-penser les parcours juridiques permettant par exemple de renforcer la justice et garantir l’égalité d’accès au droit pour différents publics.

3. Co-concevoir / mettre en débat le droit ou la conception de documents juridiques

La troisième dimension évoquée par Apolline Le Gall à trait à la mise en débat : à travers la mobilisation de deux traditions complémentaires du design, le design fiction, d’une part, et les approches de co-design/design participatif, d’autre part, le design peut contribuer à la mise en débat des lois, normes, et/ou documents juridiques et renforcer ainsi les processus démocratiques, mais aussi l’observance des règles.

« Le design a la potentialité de créer un décalage de point de vue : au-delà (et avec) le point de vue de l’utilisateur, le design, permet donc le décalage du regard de la doctrine à l’application/l’expérience réelle et donc aux autres dimensions (sociales, esthétiques, etc.) de l’expérience du droit. Ce faisant, il ouvre donc de fait à l’interdisciplinarité et à une attention à la mise en forme et expérience du droit. » (Apolline Le Gall)

Un potentiel à explorer dans les expérimentations futures pour affiner notre compréhension de ces mécanismes.

3/Droit et algorithmes

[Une présentation animée par Benjamin Jean (Président de Inno3 , co-fondateur et président de l’association Open Law), Irène Bastard (Sociologue, Chef de Projet à la BNF, coordinatrice de l’axe “Numérique” de la chaire Innovation Publique ENA-ENSCI) et Pierre Valarcher (Professeure en Informatique à l’UPEC et coordinateur de l’axe “Numérique” de la chaire Innovation Publique ENA-ENSCI)]

Cette thématique a vocation à interroger les impacts de l’informatique sur l’application du droit et notamment sur la place des algorithmes. Ces outils viennent en effet questionner les règles juridiques qui leur sont applicables et la façon dont on peut vérifier leur transparence dans le cadre d’un usage par la puissance publique.

Benjamin Jean, introduit en constatant la mobilisation croissante d’algorithmes dans le monde privé, mais aussi dans le monde public.

Ce recours aux algorithmes se situe à l’interaction de deux logiques :

• la conception et l’application de la loi, d’une part, qui est un processus itératif qui comprend la discussion, la production, l’application, la vérification et la sanction de la loi
• et la conception et le développement informatique, d’autre part, qui comprend de manière itérative également, le codage informatique, la programmation et le traitement de données, ainsi que les tests et la vérification.

Or, ces deux logiques peuvent entrer en tension. D’un côté, en effet, le recours à des algorithmes amène la question des potentielles tensions entre le texte de loi et le texte du code et soulève donc la question de l’interprétation et de la légitimité d’acteurs nouveaux à participer de fait à la fabrication et l’application de la loi. De l’autre, la méconnaissance entourant les algorithmes et la complexité de ces outils soulève des enjeux quant à leur acceptabilité et la transparence nécessaire dans le cadre d’un usage public.

L’article 4 de la Loi pour une République numérique prévoit que quand « une décision individuelle [est] prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé. Les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande. »

« Mais si un décret de mars 2017 précise que la @mention devra indiquer « la finalité poursuivie par le traitement algorithmique » et le droit d’obtenir communication des règles définissant ce traitement, sous « une forme intelligible », des questions pratiques et complexes restent en suspens : en quoi la communication de ces éléments est-elle garante d’une acceptabilité des algorithmes ? Qu’est-ce qu’un algorithme ‘responsable’ ? Et quelles seraient ces « formes intelligibles » ? » (Benjamin Jean)

Pierre Valarcher complète en rappelant qu’un algorithme est un outil complexe qu’il faut considérer comme un système à multiples points d’entrées :

1. les données (public/privé)
2. les algorithmes choisis (cahier des charges, formalisation)
3. des programmes qui implémentent les algorithmes
4. les interactions avec les utilisateurs (simples/sophistiquées)

Il poursuit la réflexion sur les enjeux liés à la transparence : comment l’implémentation de la loi, au travers de son algorithmisation peut-être elle, sinon co-construite, du moins vérifiée ?

Pierre Valarcher présente 3 méthodes qui permettraient de vérifier les algorithmes, ces méthodes ayant été soit expérimentées, soit en cours d’expérimentation ou encore hypothétiques :

1/ « Recoder la loi »

Il s’agit d’une méthode qui peut fonctionner pour les algorithmes dont on a accès aux spécifications ou encore au code, mais aussi aux données traitées. La méthode consiste à « recoder » un programme à partir des spécifications fournies par la puissance publique, et d’y traiter les données. Puis, on peut vérifier si l’algorithme qui a été codé aboutit au même résultat que l’algorithme public.

La démonstration est réalisée sur le cas de la taxe d’habitation et met en évidence un cas assez « simple » de vérification possible de l’algorithme public.

2/ “Prouver les programmes”

C’est le moment du développeur qui, en utilisant les outils adéquats, doit vérifier que son travail est conforme aux spécifications de la loi. Cela nécessite alors un formalisme de la loi bien explicite (sans ambiguïté ou avec une explicitation de choix lors de l’implémentation). Il est alors pas nécessaire d’accéder aux données.

3/ Le test ‘en boîte noire’ : une obligation de « faire confiance » ?

Sans avoir accès au code source, on peut tester des parties du logiciel si on nous laisse avoir accès à son API. On peut alors tester soit même de l’efficacité en comparant la réponse à ce que l’on attend.

Si l’on prend l’exemple du Contrôle Sanction Automatisé, qui est le système qui enregistre et sanctionne les infractions au code de la route, on pourrait potentiellement soi-même vérifier ce que l’algorithme trouve en lui soumettant des photos, et en vérifiant l’identification qu’il fait.

Cependant, tous les éléments (données, algorithmes, codes, programmes) ne sont pas disponibles pour tous les algorithmes publics.Dans le cas de Parcoursup, par exemple, de nombreux éléments ne sont pas publics pour diverses raisons, notamment les choix des candidats (pour des raisons d’anonymisation) et les algorithmes locaux des établissements d’enseignement supérieur (pour des raisons de secret des délibérations). L’algorithme repose par ailleurs sur un principe d’interaction : les candidats font des choix préférentiels, qui sont soumis à délibération dans un premier temps par les établissements locaux, puis en fonction des préférences, les choix « restants » sont à nouveau soumis aux établissements, etc. Comment, dans ce cas, pouvoir vérifier cet algorithme et son adéquation avec les principes fixés dans la loi ? C’est le travail en cours mené par l’équipe de Pierre Valarcher, qui souligne à quel point cette question de la transparence est cruciale et complexe.

Irène Bastard conclut enfin sur ces enjeux. Le travail de description des algorithmes repose bien sûr sur la qualification ‘technique’ de ses éléments. Pour les données, il s’agit de savoir si ce sont des données liées à l’individu (ou son véhicule), à l’environnement ou des paramètres commun à tous. La nature des données implique donc des enjeux techniques quant à leur production, leur traitement, leur stockage. Mais elle rejoint aussi des enjeux quant à leur statut, notamment (entre autres) vis-à-vis de la protection et les libertés des individus.

« Pour les calculs, les questions à se poser sur la mise en œuvre d’un algorithme sont les suivantes : est-il déterministe, au sens où le résultat produit une seule solution? Est-ce que les résultats sont indépendants des autres itérations ? Est-ce qu’il utilise une formule systématique ou des éléments probabilistes ? » (Irène Bastard)

Ces enjeux s’articulent avec des enjeux politiques et démocratiques : la puissance publique peut-elle prendre des décisions sur la base de « probabilités » (et non pas de faits « avérés ») ? Que devient l’égalité de traitement dans le cas d’un algorithme interactif ?

Autrement dit, si l’on peut décrire les algorithmes en fonction des données utilisés et des calculs mis en œuvre, ces questions sont indissociables des enjeux socio-politiques de l’action publique et du mode d’exercice du droit. Qu’il s’agisse d’un algorithme qui a vocation à appliquer une domaine régalien (la fiscalité, par exemple), ou bien à favoriser l’égalité des chances (d’accès à l’enseignement supérieur, par exemple), quel esprit de la loi est invoqué et comment l’exercice de la loi s’applique-t-il ?

L’atelier mené par Irène Bastard et Yoan Ollivier (designer, co-fondateur de l’agence Vraiment Vraiment), intitulé « ‘Vis ma vie’ d’algorithmes » a clôturé la soirée sur ces enjeux en faisant expérimenter aux participants la présence des algorithmes publics par le citoyen dans son quotidien.

Cette première manifestation a été l’occasion de présenter publiquement les travaux de la Chaire ENA-ENSCI au sein du programme « Modes de Conception du droit ». Ceux-si sont amenés à se poursuivre au cours de l’année à venir afin de permettre d’éclairer les mutations de cette discipline et pouvoir permettre d‘analyser la transformation de l’action publique.

Nous remercions l’ensemble des intervenants et des participants à cette soirée pour leur présence et les échanges qui s’en sont suivis. Nous remercions également le liberté Living Lab et Open Law pour leur accueil et leur investissement, ainsi que Ian Cugnière pour l’organisation de l’évènement.