Voiture Autonome : Laissons le Dilemme du Tramway à la Philosophie Morale !
Le dilemme du Tramway est une expérience de pensée élaborée en vue de tester nos intuitions morales au sujet de l’éthique utilitariste et l’éthique déontologique.
Dans le schéma ci-dessus, le personnage à côté de la manette à deux possibilités : ne rien faire et 5 personnes mourront, ou bien tirer sur la manette et le tramway, dévié, n’en tuera qu’une.
Les utilitaristes qui veulent maximiser le bonheur et le bien-être des individus estiment que c’est un devoir moral que de tirer sur la manette.
L’éthique déontologique juge l’action du point de vue non de son effet, mais de l’action elle-même. Elle inviterait plutôt à ne pas tirer sur la manette afin de ne pas participer au drame qui, dans tous les cas, est en train de se nouer.
Le Problème du Tramway appliqué à la Voiture Autonome
Imaginez :
Vous êtes à bord d’une voiture autonome lancée à pleine vitesse. Au carrefour suivant, un bloc de béton entrave la circulation sur l’une des moitié de la route, alors que sur l’autre moitié un couple traverse un passage piéton en poussant lentement un landau où dort paisiblement un nouveau-né. La voiture tente de freiner, mais les freins ne fonctionnent plus et, un malheur n’arrivant jamais seul, impossible de décélérer à temps pour éviter une conséquence funeste. Choix cornélien : si le logiciel décide de foncer dans le bloc de béton votre mort est assurée, si au contraire, il préfère foncer tout droit, le couple et l’enfant mourront !
Que doit décider le logiciel, selon quels critères ?
Voici le problème qui échauffe une partie des penseurs et des ingénieurs de la voiture autonome. Ceux du MIT (le prestigieux centre de recherche) ont proposé un ‘jeu’ en ligne et ses différentes variantes afin d’évaluer ce que nous choisirions de faire si nous nous trouvions face à un pareil choix. Dois-je préférer la vie des occupants de la voiture ou celle des piétons et, le cas échéant, selon quels critères ? Si les piétons étaient en infraction cela justifierait-il de les écraser plutôt que de mettre en péril les passagers de la voiture ?
Pour comprendre les alternatives de la problématique dans tous ses détails, je vous invite à lire l’article de Radio-Canada. Il propose une version ludique et détaillée du problème :
Mon intention n’est pas de déterminer les règles qui devraient s’appliquer en pareil cas. Je crois que ce problème, qui fait tout de même couler pas mal d’encre et met en ébullition quelques-uns des cerveaux des plus prestigieux centres de recherche est, disons, pour le moins mal posé.
Très mal posé en fait.
Un problème mal posé
L’analogie semble idéale, ce n’est pas un tramway, mais une voiture, et c’est à la voiture de faire le choix moral par le truchement de son logiciel.
Je me permets de rappeler ce qu’est le dilemme du tramway : une expérience de pensée visant à illustrer et à mettre en scène des théories éthiques. Ce n’est pas l’illustration d’un problème pratique destiné à savoir comment les cheminots devraient se comporter en pareil cas. Tout simplement parce que ce n’est pas la question ! Passer du dilemme du tramway à la question de savoir comment coder une voiture autonome sans plus de réflexion et d’explication me semble assez douteux.
Avant de savoir si nous pouvons transposer le dilemme du tramway et sa logique à la voiture autonome, il faut se demander comment une voiture autonome se retrouverait en pareille situation et comment elle pourrait alors éventuellement élaborer des choix préférentiels.
La prise de décision lors d’un accident de voiture
En pareil cas, nous, conducteurs humains, agissons par réflexe. Et dans le calcul qu’instinctivement fait notre cerveau, entre sans doute en jeu notre propre survie. Mais c’est aussi tout simplement, alors que l’on aperçoit un obstacle, un coup de volant immédiat qui nous amène dans le décor sans que nous ne sachions si ce coup de volant nous sera ou non profitable. Il est en réalité très difficile de savoir, ce qui, pour nous, serait le plus profitable dans le temps très court qui nous est imparti.
La prise de décision est particulièrement difficile à conceptualiser : si l’accident survient, c’est précisément parce que la situation nous excède, parce que nous sommes pris au dépourvu. Nous n’avons pas assez d’informations pour décider de ce qu’il faut faire selon l’ensemble des alternatives possibles.
La question est d’agir pour maximiser les chances de limiter la gravité des collisions, voire de les éviter.
Et cela fait toute la différence, la question n’est plus celle de l’alternative entre la mort du passager ou du piéton, mais celle d’augmenter les chances d’éviter l’accident ou sa gravité : en diminuant la vitesse, en klaxonnant, en modifiant sa trajectoire, en activant des dispositifs de sécurité.
Non seulement la question est mal posée, mais encore, la voiture autonome pourra difficilement calculer la probabilité des dommages et faire le bon choix.
La voiture autonome peut-elle calculer les probabilités de survenance d’un dommage ?
Déterminer les probabilités qu’un accident soit mortel pour les piétons et pour les passagers sachant que la voiture klaxonne et que les piétons peuvent éviter l’accident, sachant que des systèmes préventifs de protection des occupants et des piétons peuvent être déclenchés en avance est une sacrée gageure.
Pour résoudre pareil problème, les logiciels d’intelligence artificielle, ont besoin de suffisamment de données et de percevoir la situation clairement.
Trop peu de données :
Il n’existe, à ma connaissance, qu’une seule occurrence d’accident mortel impliquant un autre usager de la route et une voiture autonome : celui d’Uber. Cet accident n’impliquait d’ailleurs pas l’alternative proposée par le dilemme du tramway. Sans données, la voiture pourra difficilement créer un modèle capable de prendre une décision selon les critères établis par le dilemme du tramway.
Et ce jeu de données ne risque pas d’augmenter bien vite (et heureusement d’ailleurs). Waymo, la société la plus avancée dans le domaine n’a fait aucun accident mortel sur les 16 millions de km parcourus sur route. Le peu d’accidents qui ont eu lieu était de la faute des autres usagers de la route. Au surplus, ils n’entraînèrent aucun dommage corporel.
Sans données, le logiciel ne pourra établir de modèle performant pour prendre des décisions. Il lui faudrait des centaines, des milliers de cas peut-être pour qu’il puisse élaborer un pareil modèle.
Percevoir la situation clairement pour pouvoir prendre une décision appropriée :
Le problème est qu’en cas d’accident, dans la plupart des cas, il est déjà trop tard. Comme je le disais plus haut, lorsque nous sommes victimes d’un accident, c’est que la situation nous excède. Notre marge de manœuvre s’en trouve donc singulièrement limitée.
Évaluer d’avance les probabilités de décès ou même de dommages corporels en un temps très court qui permettrait aux véhicules autonomes d’agir en conséquence est, dans ces conditions, particulièrement périlleux.
Le logiciel n’a pas à sa disposition une puissance de calcul infini, autant qu’il s’en serve pour tenter de limiter la gravité de l’accident, en freinant, en tentant d’éviter le choc, en prévenants les piétons, et la survenance de l’événement lui-même, plutôt que de dépenser ces précieux instants à décompter les personnes et les probabilités de mort ou de dommage selon les différents scénarios possibles.
Enfin, notons que la probabilité de survenance d’un pareil scénario tend vers 0.
La probabilité de survenance d’un accident impliquant le dilemme du tramway
Quelques chiffres pour nous mettre dans l’ambiance :
En France, il y a 6 décès par milliards de km parcourus.
Dans 18 % des cas, le décès implique un piéton ou un cycliste.
Ce qui nous fait environ 1 décès par milliard de km parcourus impliquant un cycliste ou un piéton.
Ajoutons que dans le cas de la conduite autonome le nombre d’accidents sera lui-même grandement réduit. En effet, les causes humaines d’accidents (alcool, fatigue, non-respect des limitations de vitesse, des distances de sécurités ou plus généralement du Code de la route) représentent environ 90 % des cas d’accidents.
Reste 10 % des accidents pour des raisons techniques ou météorologiques, ce qui nous donne 0,1 décès par milliard de km parcourus dans notre hypothèse.
Enfin, sur ce dixième de décès par milliard de km parcouru, quelle proportion implique la possibilité d’un choix entre la mort des passagers et la mort des piétons ?
Aucun chiffre n’est disponible en la matière, mais si une telle statistique existait je parierais fort pour que ce soit à peu près zéro. En effet, si le conducteur avait pu réagir à temps et provoquer un accident sans tuer le piéton, il est probable que dans la très très grande majorité des cas, les passagers n’auraient subits que des dommages forts limités.
Soyons généreux avec l’hypothèse contraire et disons que l’alternative se présente tout de même dans 1 cas sur 10, soit 0,01 décès par milliard de km parcourus. Ou un décès pour 100 milliards de km parcourus.
Au total, les cas concernés représenteraient dans l’hypothèse évoquée 0,16 % des cas d’accidents mortels actuels. Soit, à l’échelle de la France, environ 5 cas par an. (Et ne nous trompons pas, dans l’hypothèse du dilemme du tramway, il y a nécessairement au moins un mort).
Je vous propose donc un autre dilemme :
Faut-il dépenser du temps et de l’argent à tenter de résoudre un problème que nous ne pourrons peut-être jamais résoudre, qui ne concerne que très peu de cas et qui ne diminue de toute façon pas drastiquement le nombre de victimes ? Ou faut-il diriger les recherches vers l’élaboration d’un logiciel et de véhicules améliorant globalement la sécurité routière ?
Laissons le dilemme du tramway à la philosophie morale et tentons de résoudre des questions qui en valent réellement la peine.
