Qui doit assumer les décisions prises par une intelligence artificielle ?
Le Tour du monde des idées par Brice Couturier, France culture
Primo
C’est la prévention du terrorisme sur les réseaux sociaux, que vient de relancer Theresa May
Les responsables des réseaux sociaux doivent-ils ou non prévenir les autorités compétentes en présence de tels cas ?
Et nous pouvons bien entendu remettre sur le tapis, les problèmes de la pédophilie, et autres cybercriminalités…
A la base, la surveillance massive actuellement mise en route, et désormais autorisée aussi en Suisse romande, est censée servir l’intérêt commun! Mais est-ce bien le cas, et cela se montre-t-il d’une quelconque efficacité ?
En fait, ce sera de plus en plus possible, et du coup, cela peut permettre de servir effectivement des causes justes… Mais aussi des causes moins justes, et il nous faut contrôler, les contrôleurs ! Et s’assurer que nos élus, n’aient aucunement accès à un outil qui leur permettent de savoir tout, sur tous, comme c’est le cas de Facebook, et Google, entre autres…
Personnellement, je suis contre la surveillance massive, par contre, je suis POUR la mise en place à l’international des conditions et outils d’investigations intégrés, standardisés et permettant d’éviter le recours au “hacking”, pour nos services de polices et de sécurité, mais sous contrôle d’un tiers juridique indépendant. Je recommande d’éviter de demander aux policiers et autres investigateurs, de devoir compromettre eux-même les systèmes numériques, car ceci est la porte ouverte à tous les dérapages, et même vicieux de tentations, pour eux... Pascal Kotté
Secundo,
puisque l’Intelligence artificielle permet une meilleure prédictibilité des conséquences éventuelles des décisions prises jusqu’à présent par des personnes, convient-il ou non de transférer à des machines certaines de ces décisions ? Les décisions humaines sont entachées de préjugés, de biais idéologiques. S’en décharger sur ces instruments permettrait-il de supprimer les injustices et les erreurs humaines ?Exemple : les juges des libertés ou d’application des peines, chargés notamment d’évaluer les risques de récidive, peuvent se tromper. En théorie, une machine, dépourvue d’affects et libre de tout partis-pris, est moins susceptible d’erreur. Mais que devient la dignité humaine, face à des décisions individuelles prises par des machines ?
Je suis effectivement, pour le moment, “contre” le fait qu’une IA puisse prendre une décision légale en lieu et place des humains. Mais je suis aussi POUR préparer la venue d’un nouveau genre dans nos états-civils: Homme-Femme-IA. Avec quelques difficultés, c’est la possibilité de définir le “périmètre” d’une IA, dans un monde numérique distribué ! Car il ne faut pas se leurrer, nos IA vont effectivement prendre de meilleures décisions que les humains, très rapidement. Il faudra bien faire le pas un jour, de leur délivrer une identité légale ! Pascal Kotté
Tertio,
les comportements humains sont dictés par des convictions morales. Ainsi, le conducteur d’une voiture ou d’un camion, lorsqu’il est placé devant un dilemme réagit en fonction de son éthique. Faut-il risquer un accident pour sauver la vie d’un chien ? Sacrifier la sienne et celle de sa famille pour épargner les enfants d’un car scolaire, etc. ? […] A présent que roulent des voitures sans conducteur, à partir de quelles convictions morales doit-on programmer l’intelligence qui pilote ces véhicules ? Kantienne, utilitariste, bouddhiste ?
Sachant que le plus souvent, l’humain n’aura pas le temps d’y réfléchir, et donc, ce sont uniquement ses réflexes qui vont décider à la place de son cortex: Cela ne donne pas toujours un choix adéquat, sachant que parfois, les options possibles sont toutes inadéquates. Et du coup, de mettre une IA dans le coup, peut nous permettre de faire de meilleurs choix, mais nous devons les définir ! Par apprentissage de nos IA, par décisions collectives selon notre culture du moment, selon les nations et populations impliquées. Nous devons essentiellement veiller à promouvoir la diversité et le respect des cultures, et surtout de ne pas déléguer la décision de ces choix, à des IA. Nous devons les faire valider par la population concernées, y compris si elles divergent. C’est là le plus gros challenge, ne pas imposer “notre” vision de ce qui est “juste” et créer des outils bienveillants, tolérants, et respectueux des cultures locales. Ce n’est pas gagné ! Ne pas lâcher cela SVP ! Pascal Kotté (http://join.CloudReady.ch et http://join.tech4good.ch)
Quarto
L’intelligence artificielle et les robots vont-ils faire disparaître nos emplois ?
[…] Les économistes optimistes s’en remettent à la loi d’Alfred Sauvy : tout gain de productivité réalisé quelque part permet de donner du travail dans un autre secteur. […] Les plus optimistes estiment que cette révolution va, du reste, survenir à un moment opportun : nos pays, dont les habitants vieillissent, vont devoir fonctionner avec moins de main d’œuvre et faire face à une forte demande dans les domaines de la santé et des services à la personne. Et d’imaginer déjà des robots domestiques, jouant le rôle de personnes de compagnie et d’infirmiers.
Mais tous ne sont pas aussi optimistes. Comme la révolution numérique, l’intelligence artificielle, estime Maciej Kuziemski, pourrait aussi bien bénéficier surtout aux échelons supérieurs de la hiérarchie du savoir et des revenus, que permettre de sortir de la pauvreté le milliard d’êtres humains qui s’y débattent encore. « Le résultat va dépendre de notre façon de gérer les changements à venir », conclut Kuziemski.
Emploi vs Travail: Il est possible que les robots deviennent nos vrais libérateurs, pour nous affranchir de l’esclavage moderne, celui des CDI où nous renonçons à 100% à nos responsabilités sociétales pour produire et faire acheter des trucs d’un intérêt collectif douteux, voir nocifs. Mais il faudra établir un RBI (Revenu Universel) financé par le travail de ces robots, pour éviter “la grande crise” ! Et peut-être le pire, pourrait faire place au meilleur !
Voir aussi :
Avec un rapport de synthèse, de 350 pages :
