De notre double numérique à notre triplé IA

AI for Tomorrow
Apr 22 · 4 min read

Dominique Turcq, auteur de Le Travail A L’ère Post Digitale, Dunod

Enseignant à Sciences Po, ex partner McKinsey, ex SVP Stratégie groupe Manpower.

De nouvelles proximités sont générées, parfois douteuses, avec nous-mêmes à travers nos données. Nous avions notre « double numérique » , nous aurons notre « triplé IA».

Photo de cottonbro provenant de Pexels

Le digital et l’océan de données qu’il a permis ont créé notre double digital, celui qui nous décrit, a enregistré nos actions. Si vous ne savez pas où vous étiez aujourd’hui il y a un an, ne vous en faites pas, Google le sait.

A cela l’IA ajoute la possibilité d’un triple de nous-mêmes, capable non seulement de savoir tout ce que nous avons fait mais de prédire (approximativement et avec des marges d’erreur importantes) ce que nous allons faire ou devenir, voire de préciser des éléments de notre personnalité que nous préférerions garder confidentiels. Cela peut être très utile pour nous avertir d’une maladie à venir ou pour nous avertir que nos enfants sont en cours de décrochage scolaire (et encore), mais dans beaucoup d’autres cas nous n’avons pas vraiment envie de vivre dans un univers où des IA nous surveilleraient même dans nos actions à venir, connaitrait nos préférences sexuelles ou politiques, etc. à la façon de ce qui se passe dans le film Minority Report [1].

Reconnaissance faciale et IA, un exemple de proximité malvenue

La décision en juin 2020 par IBM de se retirer de la recherche et de la vente de logiciels en reconnaissance faciale [2] , puis une décision similaire par Microsoft d’interdire à la police américaine de se servir de ses outils de reconnaissance faciale, sont emblématiques de la prise de conscience des biais, notamment racistes et d’approximations, que peut avoir cette technologie et qui font que ses recommandations ne sont que des approximations sur lesquelles un jugement humain doit s’exercer. La proximité permise par cette technologie avec les données personnelles des individus, les risques qu’elle présente pour créer des différences et des injustices dans la société, sont tels qu’une régulation devient nécessaire.

Le recul des développements en reconnaissance faciale est une bonne illustration du principe selon lequel ce n’est pas parce qu’une technologie permet de le faire, qu’il faut le faire. Sans remettre en cause le progrès qu’elle représente, il faut probablement envisager plus de prudence dans son utilisation en recrutement, en justice, dans la police et l’armée ainsi que dans tous les domaines sensibles où finalement une potentielle erreur humaine est préférable à la marge d’erreur possible de la machine. D’autant plus que l’erreur humaine a toujours un responsable identifiable alors que l’IA a trop de « responsables » pour en avoir un véritable juridiquement.

Le cas du recrutement, l’IA et le marché du travail, les bons et mauvais côtés de l’IA comme succédané de proximité

L’IA est souvent présentée comme simplifiant le processus de recrutement, et il est vrai que la tâche des recruteurs est complexe, délicate surtout quand un CV comprend trop d’information et quand les recruteurs sont confrontés à des quantités astronomiques de CVs. On peut comprendre que pour se simplifier la vie et gagner du temps dans la sélection, ils aient recours à des systèmes de IA permettant le tri. Le problème est que par définition ces systèmes vont favoriser les dossiers des clones de ceux qui sont déjà dans l’entreprise et qui y réussissent. La créativité, les soft skills, le contact humain ne sont pas (encore) considérés comme des facteurs essentiels de recrutement et les machines sont fort peu programmées pour identifier des profils atypiques et potentiellement riches pour l’entreprise. Le système est si pervers que chacun désormais s’efforce de remplir son CV en fonction des règles de normalité perçues dans l’entreprise.

Ces outils sont des machines à castrer les individualités. Pire encore pour les entreprises, l’IA ne s’intéresse qu’aux données passées, mais les compétences dont on a besoin demain ne sont pas forcément inscrites dans le passé.

Les travaux de Jean Pralong, de l’EM Normandie, ont montré que les recruteurs se perdent certes dans la lecture de CV trop riches [3], même quand ils y passent du temps. Mais cela ne veut pas dire qu’une IA sera nécessairement meilleure.

Mais l’IA dans le recrutement a aussi de bons côtés. Autant l’utilisation de l’IA pour sélectionner les candidats est-elle largement sujette à caution, autant l’utilisation de l’IA pour aider les candidats à mieux comprendre les proximités de leurs savoir-faire, leurs capacités, le parcours de formation qu’ils devraient suivre, etc. peut-être extrêmement pertinente. En effet, une IA peut analyser plus en profondeur les passerelles de compétences qu’un individu peut trouver entre ses compétences actuelles et les compétences dont il pourrait avoir besoin dans le futur.

L’IA ne doit pas devenir un facteur de tri mais un facteur d’enrichissement des savoir-faire. En ce sens notre triplé IA est potentiellement un vrai facteur de progrès individuel et social.

Lire sur notre site.

Dominique Turcq

Expert AI For Tomorrow,

Enseignant à Sciences Po, ex partner McKinsey

Références:

[1] https://en.wikipedia.org/wiki/Minority_Report_(film)

[2] https://www.theverge.com/2020/6/8/21284683/ibm-no-longer-general-purpose-facial-recognition-analysis-software

[3] https://blog.ecole-management-normandie.fr/hr-insights-02-humanprotocolerror-labondance-dinformations-digitales-provoque-erreurs-de-recrutement/

AI For Tomorrow

AI For Tomorrow

Nous sommes convaincus que l’intelligence artificielle peut nous aider à (ré)inventer le monde de demain. Ensemble, utilisons l’IA pour relever les défis sociétaux, environnementaux et sanitaires.

AI for Tomorrow

Written by

Donnons à tou.te.s les clés pour (ré)inventer le monde de demain grâce à l’intelligence artificielle

AI For Tomorrow

Nous sommes convaincus que l’intelligence artificielle peut nous aider à (ré)inventer le monde de demain. Ensemble, utilisons l’IA pour relever les défis sociétaux, environnementaux et sanitaires.