En direct
Best of
Best of du 6 au 12 juillet
En direct
© Marco BERTORELLO / AFP
IA

Voiture autonome : Renault et Nissan ont-ils pensé à recruter des philosophes dans le cadre de leur accord avec Waymo ?

Publié le 21 juin 2019
Avec l'annonce de l'alliance de Waymo et de Renault, la perspective de voir rouler un jour des voitures autonomes a pris un coup d'accélérateur. Cependant, une telle innovation pose un certain nombre de questions philosophiques fondamentales.
Bertrand Vergely est philosophe et théologien.Il est l'auteur de plusieurs livres dont La Mort interdite (J.-C. Lattès, 2001) ou Une vie pour se mettre au monde (Carnet Nord, 2010), La tentation de l'Homme-Dieu (Le Passeur Editeur, 2015).  
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Bertrand Vergely
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Bertrand Vergely est philosophe et théologien.Il est l'auteur de plusieurs livres dont La Mort interdite (J.-C. Lattès, 2001) ou Une vie pour se mettre au monde (Carnet Nord, 2010), La tentation de l'Homme-Dieu (Le Passeur Editeur, 2015).  
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Avec l'annonce de l'alliance de Waymo et de Renault, la perspective de voir rouler un jour des voitures autonomes a pris un coup d'accélérateur. Cependant, une telle innovation pose un certain nombre de questions philosophiques fondamentales.

Atlantico : Du fait de son intelligence artificielle, une voiture sans conducteur pourrait "prendre la décision" de tuer quelqu'un si une situation de dilemme venait à se présenter. L'autonomie du véhicule peut-elle aller aussi loin ? N'est-ce pas une application quelque peu cynique d'une morale utilitariste qui se dessine derrière cette technologie ?

Bertrand Vergely : En ce qui concerne la voiture qui se conduit toute seule, il importe de distinguer ce que l’on donne à voir et l’enjeu en profondeur derrière ce que l’on donne à voir. 
Ce que l’on donne à voir relève d’un scénario oscillant entre le polar et le western. Une voiture qui se conduit toute seule arrive à grande vitesse sur un rond point où se trouvent une vieille dame et une nurse avec un bébé dans une poussette. La voiture roulant trop vite, impossible d’éviter le choc avec la vielle dame ou la nurse. Aussi va-t-il falloir programmer la voiture pour faire face à ce genre de situation. Qui doit-on sauver ? Qui doit-on tuer ? Faut-il que le conducteur se suicide afin de préserver la vieille dame et l’enfant ? Faut-il qu’il tue l’a vieille dame pour préserver l’enfant ? Qu’il tue l’enfant pour préserver la veille dame ?  Comme dans Le Cid de Corneille, dans ce choix cornélien qui est proposé, toute les solutions se terminant par la mort, toutes sont mauvaises. Néanmoins, tout donne à penser que c’est la vieille dame qui va être sacrifiée. Elle a vécu. Pour elle, la mort est moins tragique que pour l’enfant qui n’a pas encore vécu. Moralité : les adversaires de l’intelligence Artificielle disent que l’homme va être évincé par celle-ci. Faux. Il aura toujours son mot à dire. La preuve : quand il s’agit de choisir à propos de la vie et de la mort, c’est lui qui choisit. On peut donc être rassuré. La voiture qui se conduit toute seule conduit à la place du conducteur. Elle ne conduit pas la vie du conducteur qui demeure le maître de sa vie comme de la vie.  Le tragique le montre. Si la voiture qui se conduit toute seule peut éliminer des morts inutiles grâce à ses performances, elle ne peut éliminer le tragique de la vie. Maintenant, considérons ce qui se passe en profondeur. 
     Quand les concepteurs de l’intelligence Artificielle à la base de la voiture qui se conduit toute seule tentent de nous montrer que l’homme possède toujours une part de maîtrise et de liberté, démontrent-ils effectivement l’existence de cette liberté ? Nullement. Ils font semblant. Quand on est dans une situation tragique où il convient de savoir qui on va tuer, est-on libre ? En aucune façon. On est coincé. On est pris au piège. Quoi que l’on fasse, ce que l’on va choisir sera tragique. On est libre, quand on n’a pas à faire un tel choix et non quand on est mis en demeure de devoir le faire. 
Les promoteurs de l’Intelligence Artificielle qui entendent expliquer que nous sommes toujours libres se moquent donc de nous. Dans leur démonstration, une chose est manifeste : on n’est jamais libre. Quand on est dans une voiture qui se conduit toute seule, on n’est pas libre. Et, quand cette voiture est confrontée à un  dilemme tragique, on n’est toujours pas libre. 
     Il est important, vital même pour la future voiture qui se conduit toute seule, de montrer que l’on n’est jamais libre. Cela permet de clore la discussion philosophique. Il est évident que, dans le monde de demain où tout sera de plus en plus programmé, notamment les voitures, nous allons être de moins en moins libres. Conduire sa voiture est un plaisir, ce plaisir résidant dans le fait d’être celui qui conduit. Quand, demain, les voitures se conduiront toutes seules, ce plaisir n’existera plus. Il n’existera plus pour les voitures mais aussi pour quantité de choses, l’homme des sociétés postmodernes étant appelé à être de moins en moins le conducteur de sa vie comme du monde. 
L’Intelligence Artificielle et les voitures qui se conduisent toutes seules représentent une gigantesque perspective de marché et de profits pour le néocapitalisme contemporain. Un problème se pose cependant : comment va-t-on faire accepter aux populations d ce monde à venir la perte de leur liberté ? Le scénario de la voiture qui se conduit toute seule et du choix de savoir qui celle-ci va devoir tuer apporte la réponse. 
     Commençons l’histoire par la fin. Partons du principe selon lequel, dans la vie, la condition humaine est toujours tragique, violente et sacrificielle. Dans cette situation tragique, bonne nouvelle. Entre deux tragiques, on peut choisir le moindre. Grâce à la programmation, on est  libre. Donc, tout programmer en supprimant la liberté humaine ne supprime pas la liberté. Au contraire. Quand le tragique programme tout en tuant la liberté, programmer le tragique permet de se libérer du tragique. 
     On s’interroge sur le fait de savoir quels problèmes philosophiques pose l’Intelligence  Artificielle. On a la réponse. Demain, allons nous accepter que l’on conduise nos pensées comme on s’apprête à conduire nos voitures ?  Combien de temps allons nous encore approuver comme allant de sois que la voiture qui se conduit toute seule tue sans remettre en question le fait qu’elle tue ? Combien de temps encore,  allons nous donner notre accord au fait  que nos pensées sont guidées par des faux problèmes et des faux débats reposant sur des questions sans aucun intérêt masquant les véritables enjeux de l’existence ? L’exemple de la voiture qui se conduit toute seule, donne à penser de fait que la vie dépend de la voiture, de sa programmation et de ses programmateurs. La voiture dépend de la vie comme de notre vie et non l’inverse. Combien de temps encore allons nous croire l’inverse ? 

 

Si un accident se produit, que ce soit en créant des dommages matériels ou humains, à qui devrait revenir la faute ? Est-ce le "conducteur" humain ? Le producteur du véhicule ? Ou l'ingénieur qui a pensé l'intelligence artificielle ?

Il y a le « passionnant » problème de savoir qui doit tuer  une voiture qui se conduit toute seule. Il y a maintenant cette autre question « passionnante » de savoir qui, quand la voiture qui se conduit toute seule  commet un accident, il importe de mettre en prison. L’ingénieur qui a conçu la voiture ? Le patron qui l’a fabriquée dans ses usines ? Le propriétaire de la voiture ? En apparence, cette question donne à penser que l’on se penche sérieusement sur la responsabilité. Est-ce toutefois le cas ? Quand on a comme projet de mettre en circulation une voiture sans chauffeur, il est évident que cela va poser un problème de responsabilité. Quand il y a un chauffeur, il y a quelqu’un sur qui faire reposer celle-ci. Mais, quand il n’y a personne ? Qui incriminer ? 
     Le problème posé par la responsabilité est le même que celui posé par le fait de savoir qui tuer. En apparence, cette question donne l’impression que l’on s’intéresse à la responsabilité. En réalité, il n’en est rien. La responsabilité suppose, non pas que quelqu’un est déclaré coupable, mais que quelqu’un se déclare coupable. Avec le scénario qui est proposé ici, a-t-on affaire à la responsabilité ? En aucun cas, personne ne se déclarant coupable et déclarer quelqu’un coupable étant impossible. Ce n’est pas un hasard. 
Il est important de rappeler que, fondamentalement, dans la vie, personne n’est responsable, comme personne n’est libre. Là encore, la vie est tragique, inhumaine. Mais, dans ce tragique, miracle. Le fabricant de voitures qui se conduisent toutes seules va quand même faire exister la responsabilité. Il va la faire apparaître en cherchant à rendre responsables le propriétaire de la voiture, son fabricant et son concepteur. Miracle une fois de plus. L’homme est libre. La voiture qui se conduit toute seule ne l’empêche pas de l’être. La preuve : confronté au tragique il garde la liberté de tuer et de sauver par ce crime. De même, il est responsable. Confronté à un accident, il garde la possibilité de mettre en prison. On peut donc être rassuré. La voiture qui se conduit toute seule ne va ôter ni la liberté ni la responsabilité. Pour décider de tuer et de mettre en prison, on aura toujours besoin d’un homme. 
     On l’aura remarqué. Les questions soulevées par la voiture qui se conduit toute seule sont extraordinairement malines et rusées. En apparence, sur un mode dramatique, tout est fait pour donner l’impression que l’on respecte la liberté et la responsabilité humaine. Vous craignez que, demain, liberté et responsabilité soient supprimées ? Vous avez tort. Pour des choses graves, tragiques, terribles comme le fait de tuer et de mettre en prison, on va avoir besoin de l’homme, de sa liberté et de sa responsabilité. Conservons ainsi à l’homme sa liberté et sa responsabilité. On ne remet pas en question la voiture qui se conduit toute seule. On assure au contraire celle-ci par une liberté et une responsabilité graves et tragiques. 
     Qui dit voiture qui se conduit toute seule dit forcément un monde dans lequel l’homme ne sera ni libre ni responsable, son destin étant désormais totalement pris en main par une puissance intelligente supérieure qui va conduire pour lui. Pour faire avaler ce changement de taille, les exemples choisis sont imparables. Disons à l’être humain que celui-ci va pouvoir conserver la possibilité de tuer ou de mettre en prison en programmant le meurtre ou bien encore le châtiment. On rassure les populations. On ne leur enlève ni la violence ni la punition. On fait même de la pub pour la voiture qui se conduit toute seule. En enlevant liberté et responsabilité, elle rend l’homme plus libre  en lui donnant une prise sur le tragique de l’existence. 
     La philosophie consistant à penser et penser à méditer sur la profondeur de l’existence et sa spiritualité, il va de soi que, dans les  questions soulevées ici, il n’y a aucune philosophie. En revanche, on est en présence d’une magistrale leçon de perversité intellectuelle et morale donnant l’impression que l’on se préoccupe de morale et de philosophie. Seul bénéfice : quand on commence à être sensible à ce que la pensée veut dire, on devient sensible à ce qui se passe quand la pensée ne pense pas. Quand on devient sensible à ce qui se passe quand on empêche de penser, on devient indirectement sensible à la pensée qui pense. 

 

Quels sont les gardes-fous éthiques à prendre en compte si on souhaite accompagner ce genre d'innovations technologiques ?

N’en doutons pas : les fabricants automobiles qui, afin de faire des montagnes de profits,  vont mettre en circulation la voiture qui se conduit toute seule, ne vont pas arrêter d’être prévenants, humains, à l’écoute du consommateur. Ils ne vont pas cesser d’être pleins d’éthique et de valeurs. La réalité est qu’ils vont faire comme Tesla aujourd’hui : surveiller en permanence toutes les voitures qui sont en circulation. En ce sens, la seule éthique qui va accompagner ce phénomène va résider dans « l’éthique » du contrôle et de la prévenance. Contrôler à un niveau planétaire les voitures qui se conduisent toutes seules en étant hyper-prévenants à l’égard de ceux qui les utilisent va être la seule possibilité d’organiser « éthiquement » ce monde fondamentalement dépourvu de toute éthique. 
     L’éthique est une attitude intérieure consistant à être relié à l’être non pas de l’extérieur par des règles extérieures (ce que l’on appelle la morale) mais intérieurement par une règle intérieure. À ce titre, rien n’est plus intérieur que l’éthique. Quand on a une éthique comme un sens de l’éthique, on fait tout pour devenir un être intérieur en veillant à ce que le monde autour de soi le soit. Avec la voiture qui se conduit toute seule, on est à l’opposé, tout étant fait pour que son usager soit déchargé de toute responsabilité intérieure et personnelle. Aussi, ne rêvons pas. Il ne va pas y avoir d’éthique. En revanche, on va avoir affaire à un système mondial de surveillance appelant éthique le fait de surveiller l’existence de chacun jusque dans sa voiture.  
   L’éthique est née avec les Anciens qui s’employaient à veiller eux-mêmes sur leur propre pensée, en vivant dans la vigilance. Demain, il y aura encore de l’éthique. On la trouvera chez ceux qui réclameront de pouvoir conduire leur voiture eux-mêmes ou, mieux, chez ceux qui descendent de leur voiture pour marcher à pied. 

 

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Articles populaires
Période :
24 heures
7 jours
01.

Auriez vous le brevet des collèges ou... signé une pétition car les épreuves étaient trop difficiles ?

02.

François de Rugy, le bouc émissaire dont la mise à mort inquiète le monde de l’entreprise

03.

BCE : pourquoi l’équipe de Christine Lagarde pourrait cruellement manquer d’économistes

04.

Céline Dion envoie DEUX stylistes à l’hosto; Nabilla veut de grandes études pour son bébé; Elizabeth II recueille une milliardaire en fuite; Laeticia Hallyday humiliée à Saint-Tropez; Cyril Hanouna achète à Miami, François H. & Julie Gayet à Montsouris

05.

L’humanité a-t-elle atteint son pic d’intelligence ?

06.

20 après le Kosovo, l’Occident et l’UE devraient-ils éprouver une pointe de regret vis-à-vis de la Serbie ?

07.

Alerte à la pollution des pneus et des freins des voitures

01.

Céline Dion envoie DEUX stylistes à l’hosto; Nabilla veut de grandes études pour son bébé; Elizabeth II recueille une milliardaire en fuite; Laeticia Hallyday humiliée à Saint-Tropez; Cyril Hanouna achète à Miami, François H. & Julie Gayet à Montsouris

02.

Immigration : quand la vérité des chiffres émerge peu à peu

03.

Ces cinq erreurs de politiques publiques qui coûtent incomparablement plus cher à la France que quelques dîners au luxe malvenu

04.

Quand Jeff Bezos affirme à ses employés qu’"Amazon fera faillite, car Amazon n’est pas immortelle"

05.

Ces 6 questions que soulèvent les révélations sur François de Rugy et qui en disent long sur le niveau de dysfonctionnement politique et économique de notre pays

06.

Safari des gérants du Super U : pourquoi leur cas est bien plus défendable qu’il n’y paraît d’un point de vue environnemental

01.

Immigration : quand la vérité des chiffres émerge peu à peu

02.

Ces cinq erreurs de politiques publiques qui coûtent incomparablement plus cher à la France que quelques dîners au luxe malvenu

03.

Chasse aux comportements indécents : ce que la France a à gagner … et à perdre dans sa quête grandissante de vertu

04.

Cet autre mal Français qui se cache derrière le recul de la liberté d’expression en France

05.

Et toute honte bue, François de Rugy limogea sa chef de cabinet…

06.

L’humanité a-t-elle atteint son pic d’intelligence ?

Commentaires (3)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Anouman
- 22/06/2019 - 15:48
Philo
L'histoire de la voiture automatique qui arrive trop vite à un rond point est un non-sens. Sauf si elle est mal programmée elle arrivera à la vitesse préconisée. Et si elle est à la vitesse recommandée et qu'elle percute quelqu'un qui traverse un mètre devant, elle ne sera pas plus responsable qu'un humain. On n'a pas de problème philosophique autre que de savoir qui va payer. Aujourd'hui c'est l'assurance du conducteur qui paye pour éviter les procédures et il est probable que ce sera pareil avec les voitures automatiques. Plutôt que d'embaucher des philosophes il vaut mieux embaucher des juristes, car même quand la loi est idiote elle s'applique quand même.
clo-ette
- 21/06/2019 - 12:07
Je suis
à 100% d'accord avec tout ce que dit Bertrand Vergely . même si parfois ses articles me plongent dans l'angoisse .
Benvoyons
- 21/06/2019 - 09:36
Je suis désolé de vous dire mais vous faites un sophisme
En effet le véhicule avec IA sait qu'il doit arrivé sur un rond point ou un passage piéton à une vitesse ou il peut encore maîtriser. Sauf si une personne Humaine, sans IA, prend une mauvaise décision. Ainsi elle ou elles traversent sans tenir compte du véhicule arrivant & proche. Le choix de ces personnes étant par (elles sont ailleurs ) ou ( elles veulent se suicider ). Donc le choix du véhicule avec IA sera toujours le Bon car l'IA n'y est pour rien.
Maintenant nous pouvons admettre que le véhicule peut tenir compte de cette situation & il a un système gonflable qui se déploie englobant toute la personne sans qu'elle puisse passer dessous ni rebondir vers l'extérieur & ainsi il y a plus de peur que de vieux ou jeunes débris. Éventuellement une crise cardiaque mais encore le véhicule peut avoir un défibrillateur etc.. Je pense que les concepteurs Humains de ces véhicules par les expériences pratiques amélioreront les systèmes comme aujourd'hui nous mettons des nouveaux panneaux ou autres substituts à l'intelligence Humaine à cause de ses inattentions ou de son orgueil qui lui dit ( moi je sais conduire vite & je sais tout faire bien ) :)::)