En direct
Best of
Best Of du 13 au 19 avril 2019
En direct
© Tesla Motors / Vidéo publicitaire / Capture d'écran
Pas très engageant
Qui sacrifier en cas d'accident ? Si les voitures autonomes sont trop morales, les conducteurs ne monteront pas dedans
Publié le 18 novembre 2016
Les voitures autonomes seraient l'avenir de la mobilité. Certains cas sont pourtant difficiles à programmer. Il pourrait arriver qu'une voiture autonome doive choisir entre se sacrifier ou renverser des piétons. C'est sujets très sérieux font l'objet de diverses études.
Jean-François Bonnefon est docteur en psychologie cognitive et directeur de recherche à TSE (CRM-CNRS-IAST). Il a reçu la médaille de bronze du CNRS, est éditeur associé senior de la revue Cognition, et membre du comité éditorial de plusieurs revues...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Jean-François Bonnefon
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Jean-François Bonnefon est docteur en psychologie cognitive et directeur de recherche à TSE (CRM-CNRS-IAST). Il a reçu la médaille de bronze du CNRS, est éditeur associé senior de la revue Cognition, et membre du comité éditorial de plusieurs revues...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Les voitures autonomes seraient l'avenir de la mobilité. Certains cas sont pourtant difficiles à programmer. Il pourrait arriver qu'une voiture autonome doive choisir entre se sacrifier ou renverser des piétons. C'est sujets très sérieux font l'objet de diverses études.

Atlantico : Vous avez publié une étude qui révèle que les voitures autonomes pourraient vouloir se crasher et blesser leur passager plutôt que de risquer de blesser ou tuer un plus grand nombre de victimes. Pourquoi la question concernant le sacrifice ou non des occupants d'une voiture autonome se pose chez les concepteurs de voitures autonomes ?

Jean-François Bonnefon : Il s'agit d'une sous question de ce sujet des voitures autonomes. La question plus large que les concepteurs se posent, c'est celle du choix que va devoir faire le véhicule autonome dans une situation complétement improbable. Ils doivent penser à une situation très rare ou un accident va être inévitable, mais auquel il existe plusieurs trajectoires possibles que le véhicule autonome pourra emprunter. Pour chacune des trajectoires, il va y avoir des dégâts occasionnés ou des gens seront blessés. Le problème que les concepteurs cherchent à résoudre, c'est de comprendre comment le véhicule va décider de la trajectoire qu'il va suivre, des victimes qu'il va faire.

Doit-on en déduire que l'intelligence artificielle sera placée en situation de choix moral très difficile à  prendre ?

La question ne se pose pas avec des humains. Quand on est en voiture, on n'a pas conscience qu'on est dans une situation comme celle-là. Si on est conscient de la situation, on doit réagir très vite, en une fraction de seconde. On ne peut pas faire de choix moral, réfléchi. Avec des humains, la question ne se pose pas. Une machine programmée, il faut la programmer, lui dire quoi faire à l'avance afin d'anticiper ce problème.

Avant toute chose, elle va s'arrêter, c'est ce qu'elle doit faire en général. Toutefois, nous  ne pouvons pas imaginer que le problème ne se posera jamais ; à savoir, choisir un tuer des piétons ou alors ses occupants. C'est une situation de dilemme. Quoi qu'il soit décidé, il y aura des victimes. On ne peut pas demander à un humain de se projeter sur ce choix. L'humain n'est pas programmé pour vivre cette situation, à l'inverse des machines que l'on programme pour répondre à des fonctions d'utilité.

Dans quelle mesure pouvons-nous parler de morale utilitariste ?

On parle de morale utilitariste quand on considère que c'est le nombre de personnes sauvées qui doit dicter le comportement de la voiture. Donc du point de vue utilitariste, la voiture sacrifierait les passagers si les piétons sont plus nombreux, et sacrifierait les piétons si les passagers sont plus nombreux

De façon plus générale, pourquoi un individu est prêt à se sacrifier en cas d'accident de la route plutôt que tuer d'autres personnes ?

C'est une des questions posée pour cette étude. Les gens seraient-ils prêts à se sacrifier ? Quand on leur pose cette question morale, il y a un consensus qui se dégage. Les gens seraient prêts à ce que leur voiture les sacrifie si ça peut permettre de sauver la vie du plus grand nombre de personnes.

Dans le cas des voitures autonomes, quelles seraient les conséquences de ce dilemme sur les ventes de ces véhicules ?

C'est le cœur du problème. D'un point de vue moral il serait mieux d'être sacrifié. Mais si c'est pour qu'une fois dans ce cas de figure, la voiture soit programmée pour se sacrifier, alors il vaut mieux ne pas l'acheter. Il y a une situation où l'on ne peut pas gagner.  Si on propose des voitures qui sacrifient leurs conducteurs pour éviter un plus grand nombre de victime, on décourage les acheteurs.

A l'inverse, si on propose des voitures programmées pour sauver leurs passagers, même si ça veut dire risquer de faire un plus grand nombre de morts sur les routes, alors on heurte l'opinion morale du public. Il est très difficile pour les constructeurs d'aborder ce sujet.

Cela constitue-t-il un frein au développement de ces technologies ?

C'est un frein ; mais il faut insister sur le fait qu'il ne faut pas se laisser effrayer par ce sujet. Ce sont des situations qui sont d'une telle rareté qu'avoir peur de passer à une voiture autonome à cause du risque d'être tué pour sauver des piétons, ça veut dire renoncer à une voiture qui est beaucoup plus sûre que toute les voitures que l'on pourrait conduire soi-même.

Quelles seraient les pistes pour rassurer les clients potentiels ?

La piste, c'est de lancer cette conversation. Il ne faut pas laisser aux constructeurs proposer une solution unique, mais il ne faut pas non plus attendre que les gouvernements adoptent des régulations qui soient contre-productives, du point de vue des exigences technologiques que l'on pourrait imposer aux constructeurs. Demander à des constructeurs d'avoir un algorithme parfait de décision morale, ce serait reculer de nombreuses années l'apparition de technologies plus sûres.

Pour rassurer les gens, il faut parler. C'est pour cela que nous avons lancé le site Moral Machine (voir ici : http://moralmachine.mit.edu/). Il permet aux utilisateurs de se familiariser de façon simple avec ces débats et de se faire une idée sur ces questions. Il serait irrationnel de vouloir stopper le développement des voitures autonomes parce qu'on ne sait pas encore répondre à cette question du dilemme moral.

C'est comme une étape inévitable à franchir, au final ?

Est-ce qu'il faut exiger de trancher ce débat tout de suite ? C'est un autre sujet. Si on retarde l'autorisation de voitures autonomes à cause de cette question-là, on risque d'être responsable de plus de victimes et de dégâts parce qu'on aura découragé de nombreuses personnes de travailler sur ces technologies.

Propos recueillis par Nicolas Martinet

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.
Les princes William et Harry n’auraient jamais dû s’appeler ainsi
02.
Dick Rivers est décédé des suites d'un cancer
03.
Pourquoi la France est malade de son immobilier
04.
1er Mai : les Gilets jaunes se préparent pour l'"acte ultime"
05.
Ce rapport du Conseil national de productivité rédigé par des proches d’Emmanuel Macron préfigure-t-il le vrai tournant du quinquennat ?
06.
De #GaspardGlanz au passé de Nathalie Loiseau, ces clashs qui soulignent la mentalité de guerre civile qui gagne les esprits français
07.
Travaux à Paris : « Je creuse donc je suis ! »
01.
Pourquoi les 50 morts musulmans de Christchurch pèsent-ils tellement plus lourd que les 200 morts chrétiens du Sri Lanka ?
02.
Manon Aubry découvrira-t-elle que la FI est une secte stalinienne avant ou après les élections ?
03.
Le coupable dans l’incendie de Notre-Dame : le progressisme
04.
De #GaspardGlanz au passé de Nathalie Loiseau, ces clashs qui soulignent la mentalité de guerre civile qui gagne les esprits français
05.
Trêve ou flottement au sommet ? Quoiqu’il en soit, voilà les 5 questions de fond auxquelles Emmanuel Macron devra absolument répondre s’il veut reprendre la main
06.
Tous végétariens ou vegans ? Quand l’OMS met le hola sur les régimes universels écologiques
01.
Du “Yes We Can” au “Yes I can” : de quelle crise politique le succès phénoménal de Michelle Obama est-il le symptôme ?
02.
Suppression de l’ENA : en marche vers des records de démagogie
03.
Le coupable dans l’incendie de Notre-Dame : le progressisme
04.
Pourquoi les 50 morts musulmans de Christchurch pèsent-ils tellement plus lourd que les 200 morts chrétiens du Sri Lanka ?
05.
Pourquoi les erreurs européennes dans le traitement de la crise financière de 2008 sont les racines de la guerre commerciale entre les Etats-Unis et l’UE
06.
Névroses nationales : et la France de demain, vous la voulez à l’identique ou conscientisée ?
Commentaires (3)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
vitruvedd
- 14/11/2016 - 20:21
sacrifier, c'est rendre sacré
c'est beau que la notion de sacrifice revienne par le canal de l'industrie automobile et de la modernité!
abracadarixelle
- 13/11/2016 - 17:17
Soyons fous....
Imaginons que le système calculera l'âge global du contenu du véhicule et celui des piétons.....et sacrifiera le total le plus bas !
Anouman
- 13/11/2016 - 13:11
choix
Il est probable que les cas où la voiture devrait choisir entre passagers et piétons sont rares. Si la voiture n'a pas merdé cela ne doit pas se produire. Sauf si les piétons sont en tort, auquel cas c'est à eux de payer le prix de leur erreur.