Prochaine étape: La Conscience Artificielle.
En 1942, furent exposées pour la première fois les 3 lois de la robotique proposées par l’écrivain de science fiction Isaac Asimov:
- Un robot ne peut blesser un être humain ni, par son inaction, permettre qu’un humain soit blessé.
- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
- Un robot doit protéger sa propre existence aussi longtemps qu’une telle protection n’est pas en contradiction avec la Première et/ou la Deuxième Loi.
En effet, bien avant les avancées technologiques sur le deep learning et l’intelligence artificielle, les scientifiques et les écrivains commençaient déjà à imaginer la prochaine étape: la conscience artificielle. Que se passerait-il si les machines et les robots devenaient conscients? Il faudra bien réussir à contrôler leur actions de sorte à ne pas nuire aux humains. Petit problème: si les machines deviennent conscientes et super intelligentes, qui nous garantira qu’elles ne dépasseront pas ces 3 lois et modifieront elles-même leurs codes sources?
Avant d’aller si loin dans notre pensée revenons sur la question de base, qui est elle même le gros frein de l’avancée de ces inventions:
C’est quoi la conscience?
La conscience est un mot très abstrait qui relève à la fois de la philosophie, de la psychologie et de la neuroscience. D’après le philosophe André Comte-Sponville c’est « l’un des mots les plus difficiles à définir ».
Dans son sens philosophique et psychologique la conscience est la faculté mentale d’appréhender de façon subjective les phénomènes extérieurs (par exemple, sous la forme de sensations) ou intérieurs (tels que ses états émotionnels) et d’une façon plus générale sa propre existence. Si je suis triste ou heureux et que je me rends compte que je suis triste ou heureux, par exemple, je prends alors conscience de mes états affectifs.
Il est cependant important de distinguer la conscience dans ce sens là de la conscience morale, qui elle, est le respect de règles d’éthique mais qui ne fait pas l’objet de cet article.
Conscience comme représentation du monde et des réactions à ce dernier
Ce premier sens indique une représentation du monde et des réactions à ce dernier. On parle alors de la conscience du monde. Elle est ainsi en relation avec la perception du monde extérieur, des êtres vivants doués ou non de conscience dans l’environnement et dans la société (autrui).
C’est celle qui est évoquée dans des expressions comme perdre conscience, ou à l’inverse prendre conscience. Cette conscience-là est reconnue comme présente chez les mammifères.
Représentation de sa propre existence
Dans un sens plus individuel, la conscience correspond à une représentation de sa propre existence. On parle alors de conscience de soi, ou conscience réflexive. C’est ce qui se passe dans l’esprit d’un individu : perceptions internes (corps propre), aspects de sa personnalité et de ses actes (identité du soi, opérations cognitives, attitudes propositionnelles).
On l’attribue pour l’instant principalement à l’homme ainsi qu’aux grands singes comme le chimpanzé. Il semble aussi raisonnable de l’étendre aux dauphins et éléphants qui disposent de capacités cognitives et affectives avancées.
Le cerveau: la base derrière les concepts
Pendant longtemps considéré comme un concept uniquement philosophique et psychologique, la conscience s’est avérée, suite aux avancées de la neuroscience, fortement liée aux réseaux de neurones de notre cerveau. Pour illustrer cela, on va prendre un exemple qui relève de la perception visuelle. Que se passe-t-il dans notre cerveau lorsque nous prenons conscience d’un objet devant nos yeux?
L’image de cet objet frappe tout d’abord la rétine puis arrive à la partie postérieure du cerveau puis se propage dans l’ensemble du cerveau jusqu’à ce qu’on puisse affirmer avoir vu cette image et pris conscience de cet objet. Tout cela en moins d’une demi seconde. Si on observe le film cérébral, on peut voir à travers lui toutes les étapes de cette perception et éventuellement identifier le moment de prise de conscience. Mais comment l’identifier?
Ceci peut se faire en comparant ce film cérébral à celui d’une situation où on a vu l’objet mais on n’a pas pris conscience de lui. C’est ce qu’on appelle la perception subliminale dans laquelle l’image passe devant nos yeux très brièvement en étant précédée et succédée par d’autres images appelées masques qui empêchent la prise de conscience de l’objet.
En comparant les deux films cérébraux on remarque que lors des premiers dixièmes de seconde, les films sont pareils et c’est une perception inconsciente. La différence commence juste après, ce qui correspond à l’instant où l’information se propage dans une sorte de réseau de neurones de conscience situé de l’arrière vers l’avant du cerveau. Suite à cette propagation les différentes parties du réseau dialoguent sur cette information et c’est la prise de conscience complète de l’objet. L’objet n’est plus propre à la partie du cerveau qui l’a identifié et traité (le visuel) mais à l’ensemble des mécanismes du cerveau.
Cette globalisation de l’information vers tous les systèmes de traitement du cerveau et notamment du système de langage nous permet d’affirmer par la suite que nous avons pris conscience de l’objet. Ceci représente une première piste pour l’homme s’il veut créer une conscience artificielle consciente du monde qui l’entoure.
Cependant cette compréhension reste encore assez floue. On est bien évidemment loin d’avoir tout compris à propos du cerveau humain. Ceci est vrai pour la conscience ainsi que pour tous les autres termes qui entrent dans la même catégorie comme intelligence, pensée, esprit etc. Toutes ces capacités de l’être humain sont interconnectées :
Selon Descartes: “Je pense donc je suis”.
Donc quand on est en train de penser ça prouve directement qu’on est conscient. Et vu qu’on est conscient de soi même et de sa pensée alors on est conscient du monde qui nous entoure vu qu’on en fait partie. Enfin, puisqu’on est conscient du monde, on sait l’interpréter, l’analyser, et s’y adapter ce qui fait de nous des êtres intelligents.
Cependant, pour avancer dans les recherches, on ne peut pas gravir toute l’échelle d’un coup. Les chercheurs ont dû décortiquer ce problème en séparant ces concepts et s’attaquant tout d’abord à la question de l’intelligence. Ils se sont principalement penché sur deux aspects de l’intelligence:
- Les fonctionnalités de calculs (modèles mathématiques, clustering, prédictions, reconnaissance d’images)
- La compréhension du langage naturel ( NLP, agents conversationnels, traductions etc.)
Les premières consciences artificielles
Malgré la complexité plus élevée de la conscience par rapport à l’intelligence et l’absence de consensus sur une définition bien établie, certains chercheurs ont tenté le coup. Et cette approche fut très bénéfique. En effet, souvent la pratique précède la théorie et il est commun que grâce aux avancées technologiques, nous comprenions mieux le comportement de notre cerveau grâce au comportement de nos machines.
Alors là encore, pour avancer, on a fait comme avec l’intelligence artificielle, on choisit un objectif particulier de la conscience et on tente de le modéliser dans un algorithme. C’est ce qu’à fait Selmer Bringsjord, chercheur à l’institut Polytechnique de New York. Il a défini la conscience comme: la capacité d’un organisme à s’observer fonctionner comme une entité distincte des autres.
Il a créé donc un robot et l’a programmé en lui disant qu’il lui avait donné une pilule qui pouvait soit lui couper la parole, soit ne rien faire (un placebo). Il a ensuite demandé au robot quelle pilule il avait reçue, et le robot commence à répondre au chercheur qu’il ne sait pas. Et en répondant au chercheur, le robot se rend compte qu’il est en train de s’exprimer et que donc il a reçu le placebo : il s’excuse et dit au chercheur qu’il peut lui affirmer qu’il a reçu le placebo. Deux boucles d’algorithmes qui fonctionnent en parallèle : une qui permet au robot de comprendre son environnement, et une au dessus qui lui permet de s’observer en train de fonctionner et d’ajuster.
Un autre exemple est celui du robot Qbo qui, lors d’un test, se place devant un miroir et est capable de se reconnaître lui même ce qui représente une première forme de conscience de soi.
On peut se dire qu’on est loin de la conscience humaine et que c’est uniquement un code assez réducteur de ce que l’humain peut faire. C’est vrai, mais c’est un début.
La conscience est-elle nécessairement bénéfique?
Jusqu’à présent, nos robots et programmes sont destinés à faire des tâches spécifiques sans être conscients de ce qu’ils font. Mais n’est-il justement pas mieux ainsi? L’humain, au contraire, est capable de faire plusieurs choses, de penser à différents sujets à la fois et de se concentrer sur une tâche tout en pensant à une autre. Ceci est sa force, mais c’est toute sa faiblesse aussi.
Imaginons par exemple un personne conduisant sa voiture vers son travail le matin et comparons la à une voiture autonome. Cette personne pendant son trajet est à la fois en train de penser à la présentation qu’elle a à faire, à son enfant qui a un examen ce jour là, et à son ventre qui gargouille car elle a sauté le petit déjeuner. On peut bien évidemment imaginer qu’à n’importe quel moment cette personne pourrait ne pas faire attention et oublier de s’arrêter à un feu rouge pour ne pas imaginer le pire. En revanche, la voiture autonome n’a qu’une tâche à exécuter: conduire. Elle ne risque pas de perdre la tête avec un tas d’évènements et donc arrive à rester concentrée.
Pourquoi voulons nous absolument créer des machines à notre image et leur rajouter ce qui a de plus humain en nous: la conscience? En faisant cela ne serions nous simplement en train d’introduire en elle le risque de l’erreur?
Références:
Qu’est-ce que la conscience et les machines pourraient-elles l’acquérir ? — STANISLAS DEHAENE
From Artificial Intelligence to Artificial Consciousness | Joscha Bach | TEDxBeaconStreet
Interview le monde: Les secrets de la conscience dévoilés par Lionel Naccache, neurologue
