Faut-il une agence européenne de notation des plates-formes numériques ?

Elle est pourtant discrète cette proposition du CNNum, de créer “une agence européenne de notation de la loyauté (des plates-formes), appuyée sur un réseau ouvert de contributeurs et un corps d’experts en algorithmes (ou algorithmistes) mobilisable sur demande”. Elle n’est en effet qu’un sous-ensemble de la proposition 10 “Adapter le design institutionnel” du rapport Ambition numérique, synthèse subjective de la grande concertation numérique lancée en France à l’automne 2014 (17678 contributions par 5000 participants) et remise au Premier ministre, Manuel Valls, le 18 juin dernier.

L’idée des algoritmistes fait son chemin

Certes cette idée d’une agence de notation numérique indépendante n’est pas tout à fait inédite. Dans leur — excellent — ouvrage “Big data, A revolution that will transfrom how we live, work, and think”, (paru en Français chez Robert Laffont), Viktor Mayer-Schönberger, professeur de l’institut de l’internet d’Oxford et Kenneth Cukier, journaliste de The Economist proposaient déjà de demander aux entreprises de s’engager à faire certifier les algorithmes destinés à certaines utilisations sensibles. En échange de quoi, elles pourraient par exemple conserver plus longtemps les données. Ce travail de contrôle et de certification serait confié à un nouveau type d’experts, les algorithmistes (sorte de commissaires au compte certificateurs de la data) qui pourraient aussi être saisis par des individus ou des associations en cas de soupçon d’utilisation abusive des données.

Selon eux, ces algorithmistes pourraient se présenter sous deux formes : des entités indépendantes, voire étatiques, pour contrôler les entreprises et leurs algorithmes de l’extérieur — l’idée avancée par le CNNum –, et des employés ou services intégrés pour les contrôler de l’intérieur. Comme les experts comptables, ils prêteraient serment d’impartialité et de respect du secret professionnel.

la propriété intellectuelle et le secret préservés

Créer ce type d’agence au niveau européen aurait en effet tout son sens, tant pour résoudre en partie la question des données personnelles, que pour évaluer la résilience des algorithmes qui sont amenés à gérer de plus en plus nos sociétés. Sauf que les agences de notation financières ont plutôt mauvaises presse depuis la crise de 2008. Et que cette notation pourrait signifier la remise en cause des droits de propriété intellectuelle sur les algorithmes ou le droit au secret des entreprises.

Lors d’une conférence sur les feuilles de route numériques française et européenne, Benoît Thieulin, président du CNNum, a voulu rassurer. “Il y a un malentendu à dissiper, explique-t-il. Le rétro-engineering ne remet pas en cause le secret industriel. Ce que devra faire une agence de notation numérique, c’est du testing, pour vérifier ce que font les algorithmes dans la durée.” L’Agence voulue par le CNNUM irait donc un peu moins loin que celle imaginée par Viktor Mayer-Schönberger et Kenneth Cukier.

Loin des AGENCES DE NOTATION FINANCIÈRES

Et pas question pour Benoît Thieulin de calquer cette agence de notation numérique sur le modèle de celles du monde des finances (qui selon lui “effectuent quand même plutôt bien leur boulot”) : “Il ne s’agit que d’un parallèle, pour faire comprendre l’idée. Pour cette agence, nous imaginons plutôt un partenariat public-privé pour concentrer et mutualiser les expertises”.

La consultation que lance, en septembre 2015, la Commission européenne sur le sujet devrait de toute façon soulever la question. Elle entre dans le cadre de la 11e initiative pour constituer un marché unique numérique européen. A suivre.


Originally published at www.usine-digitale.fr.

Show your support

Clapping shows how much you appreciated Benoît Thieulin’s story.