Le grand remplacement des hommes par les robots
La prise de décision, les IA, la justice
Depuis l’invention des machines les plus basiques aux systèmes les plus sophistiqués dits « intelligents » aujourd’hui, en passant par l’invention de la machine à vapeur lors de la révolution industrielle, l’homme n’a cessé dans une optique de rationalisation des coûts et du temps de confier à des automates des tâches initialement réalisées par lui. Lorsqu’il s’agit de tâches très répétitives et pénibles, il semble assez judicieux de vouloir remplacer l’homme par une machine, d’autant plus que le résultat obtenu peut être de meilleure qualité. Le développement du numérique et des intelligences artificielles nous questionne sur ce mouvement de remplacement et jusqu’où nous irons. L’avenir de l’humanité est-il celui d’une nouvelle société de rentes dans laquelle toute l’économie et les interactions reposent sur des machines intelligentes ?
Un exemple récent et intéressant est celui de l’Estonie. Ce pays, champion du e-gouvernement a décidé d’introduire une IA permettant de prendre des décisions pour des poursuites mineures, c’est-à-dire pour des dommages inférieurs à 7.000 euros. Cette décision peut paraître controversée du fait de ce qui est en jeu dans une décision de justice. A vrai dire, l’Estonie n’est pas le premier pays à faire usage d’IA dans le secteur de la justice. Par exemple, aux Etats-Unis le programme COMPAS a créé une controverse autour des biais des données ayant permis de nourrir l’algorithme de Machine Learning. Cet algorithme permettait d’évaluer les risques de récidives des prévenus selon une multitude d’informations et critères. Or, comme l’a montré Pro Publica dans une étude, la machine semblait être biaisée envers les prévenus noirs : le taux de risque pour les prévenus noirs était deux fois plus important que pour les prévenus blancs (45% contre 24%).
Mais les biais sont-ils réellement le problème ? En effet, plusieurs solutions existent pour permettre de réduire, voire supprimer ces biais émanant des données d’entraînement. Plusieurs autres aspects peuvent bloquer l’adoption et l’acceptation de ce genre de technologie. Premièrement, un argument technique est lié au fait que les décisions de justice doivent être motivées, or il est parfois difficile avec un algorithme de connaître le raisonnement exact qui a mené à une décision. Par ailleurs, il y a la question de la défiance des citoyens envers des systèmes qui sont rarement transparents. Si l’Estonie envisage sérieusement ce genre de solutions pour optimiser son système judiciaire, cela s’insère dans le cadre plus large d’un Etat qui a depuis longtemps investi dans les outils numériques pour son fonctionnement. Par exemple, la version estonienne du Pôle Emploi français utilise déjà un système d’IA qui permet de matcher des personnes en recherche d’emploi avec des offres existantes.
L’intelligence artificielle, c’est la promesse de tendre vers des machines conçues à l’image de l’être humain, en reproduisant l’élément important différenciant l’homme des autres espèces et des machines : sa capacité à réfléchir et prendre des décisions. Or, accorder un rôle de décisionnaire à une machine, certes dite d’intelligente, c’est permettre un remplacement bien plus fort et symbolique que celui simplement des ouvriers dans les usines. Une société où l’homme peut se libérer de certaines contraintes physiques du travail est bien sûr souhaitable, mais sur des sujets éminemment humains telle que la justice, faut-il véritablement chercher l’optimisation sans réflexion sur ce que cela implique comme choix de société ?
