Atlantico : Du fait de son intelligence artificielle, une voiture sans conducteur pourrait "prendre la décision" de tuer quelqu'un si une situation de dilemme venait à se présenter. L'autonomie du véhicule peut-elle aller aussi loin ? N'est-ce pas une application quelque peu cynique d'une morale utilitariste qui se dessine derrière cette technologie ?

Bertrand Vergely : En ce qui concerne la voiture qui se conduit toute seule, il importe de distinguer ce que l’on donne à voir et l’enjeu en profondeur derrière ce que l’on donne à voir. 
Ce que l’on donne à voir relève d’un scénario oscillant entre le polar et le western. Une voiture qui se conduit toute seule arrive à grande vitesse sur un rond point où se trouvent une vieille dame et une nurse avec un bébé dans une poussette. La voiture roulant trop vite, impossible d’éviter le choc avec la vielle dame ou la nurse. Aussi va-t-il falloir programmer la voiture pour faire face à ce genre de situation. Qui doit-on sauver ? Qui doit-on tuer ? Faut-il que le conducteur se suicide afin de préserver la vieille dame et l’enfant ? Faut-il qu’il tue l’a vieille dame pour préserver l’enfant ? Qu’il tue l’enfant pour préserver la veille dame ?  Comme dans Le Cid de Corneille, dans ce choix cornélien qui est proposé, toute les solutions se terminant par la mort, toutes sont mauvaises. Néanmoins, tout donne à penser que c’est la vieille dame qui va être sacrifiée. Elle a vécu. Pour elle, la mort est moins tragique que pour l’enfant qui n’a pas encore vécu. Moralité : les adversaires de l’intelligence Artificielle disent que l’homme va être évincé par celle-ci. Faux. Il aura toujours son mot à dire. La preuve : quand il s’agit de choisir à propos de la vie et de la mort, c’est lui qui choisit. On peut donc être rassuré. La voiture qui se conduit toute seule conduit à la place du conducteur. Elle ne conduit pas la vie du conducteur qui demeure le maître de sa vie comme de la vie.  Le tragique le montre. Si la voiture qui se conduit toute seule peut éliminer des morts inutiles grâce à ses performances, elle ne peut éliminer le tragique de la vie. Maintenant, considérons ce qui se passe en profondeur. 
     Quand les concepteurs de l’intelligence Artificielle à la base de la voiture qui se conduit toute seule tentent de nous montrer que l’homme possède toujours une part de maîtrise et de liberté, démontrent-ils effectivement l’existence de cette liberté ? Nullement. Ils font semblant. Quand on est dans une situation tragique où il convient de savoir qui on va tuer, est-on libre ? En aucune façon. On est coincé. On est pris au piège. Quoi que l’on fasse, ce que l’on va choisir sera tragique. On est libre, quand on n’a pas à faire un tel choix et non quand on est mis en demeure de devoir le faire. 
Les promoteurs de l’Intelligence Artificielle qui entendent expliquer que nous sommes toujours libres se moquent donc de nous. Dans leur démonstration, une chose est manifeste : on n’est jamais libre. Quand on est dans une voiture qui se conduit toute seule, on n’est pas libre. Et, quand cette voiture est confrontée à un  dilemme tragique, on n’est toujours pas libre. 
     Il est important, vital même pour la future voiture qui se conduit toute seule, de montrer que l’on n’est jamais libre. Cela permet de clore la discussion philosophique. Il est évident que, dans le monde de demain où tout sera de plus en plus programmé, notamment les voitures, nous allons être de moins en moins libres. Conduire sa voiture est un plaisir, ce plaisir résidant dans le fait d’être celui qui conduit. Quand, demain, les voitures se conduiront toutes seules, ce plaisir n’existera plus. Il n’existera plus pour les voitures mais aussi pour quantité de choses, l’homme des sociétés postmodernes étant appelé à être de moins en moins le conducteur de sa vie comme du monde. 
L’Intelligence Artificielle et les voitures qui se conduisent toutes seules représentent une gigantesque perspective de marché et de profits pour le néocapitalisme contemporain. Un problème se pose cependant : comment va-t-on faire accepter aux populations d ce monde à venir la perte de leur liberté ? Le scénario de la voiture qui se conduit toute seule et du choix de savoir qui celle-ci va devoir tuer apporte la réponse. 
     Commençons l’histoire par la fin. Partons du principe selon lequel, dans la vie, la condition humaine est toujours tragique, violente et sacrificielle. Dans cette situation tragique, bonne nouvelle. Entre deux tragiques, on peut choisir le moindre. Grâce à la programmation, on est  libre. Donc, tout programmer en supprimant la liberté humaine ne supprime pas la liberté. Au contraire. Quand le tragique programme tout en tuant la liberté, programmer le tragique permet de se libérer du tragique. 
     On s’interroge sur le fait de savoir quels problèmes philosophiques pose l’Intelligence  Artificielle. On a la réponse. Demain, allons nous accepter que l’on conduise nos pensées comme on s’apprête à conduire nos voitures ?  Combien de temps allons nous encore approuver comme allant de sois que la voiture qui se conduit toute seule tue sans remettre en question le fait qu’elle tue ? Combien de temps encore,  allons nous donner notre accord au fait  que nos pensées sont guidées par des faux problèmes et des faux débats reposant sur des questions sans aucun intérêt masquant les véritables enjeux de l’existence ? L’exemple de la voiture qui se conduit toute seule, donne à penser de fait que la vie dépend de la voiture, de sa programmation et de ses programmateurs. La voiture dépend de la vie comme de notre vie et non l’inverse. Combien de temps encore allons nous croire l’inverse ? 

Si un accident se produit, que ce soit en créant des dommages matériels ou humains, à qui devrait revenir la faute ? Est-ce le "conducteur" humain ? Le producteur du véhicule ? Ou l'ingénieur qui a pensé l'intelligence artificielle ?

Il y a le « passionnant » problème de savoir qui doit tuer  une voiture qui se conduit toute seule. Il y a maintenant cette autre question « passionnante » de savoir qui, quand la voiture qui se conduit toute seule  commet un accident, il importe de mettre en prison. L’ingénieur qui a conçu la voiture ? Le patron qui l’a fabriquée dans ses usines ? Le propriétaire de la voiture ? En apparence, cette question donne à penser que l’on se penche sérieusement sur la responsabilité. Est-ce toutefois le cas ? Quand on a comme projet de mettre en circulation une voiture sans chauffeur, il est évident que cela va poser un problème de responsabilité. Quand il y a un chauffeur, il y a quelqu’un sur qui faire reposer celle-ci. Mais, quand il n’y a personne ? Qui incriminer ? 
     Le problème posé par la responsabilité est le même que celui posé par le fait de savoir qui tuer. En apparence, cette question donne l’impression que l’on s’intéresse à la responsabilité. En réalité, il n’en est rien. La responsabilité suppose, non pas que quelqu’un est déclaré coupable, mais que quelqu’un se déclare coupable. Avec le scénario qui est proposé ici, a-t-on affaire à la responsabilité ? En aucun cas, personne ne se déclarant coupable et déclarer quelqu’un coupable étant impossible. Ce n’est pas un hasard. 
Il est important de rappeler que, fondamentalement, dans la vie, personne n’est responsable, comme personne n’est libre. Là encore, la vie est tragique, inhumaine. Mais, dans ce tragique, miracle. Le fabricant de voitures qui se conduisent toutes seules va quand même faire exister la responsabilité. Il va la faire apparaître en cherchant à rendre responsables le propriétaire de la voiture, son fabricant et son concepteur. Miracle une fois de plus. L’homme est libre. La voiture qui se conduit toute seule ne l’empêche pas de l’être. La preuve : confronté au tragique il garde la liberté de tuer et de sauver par ce crime. De même, il est responsable. Confronté à un accident, il garde la possibilité de mettre en prison. On peut donc être rassuré. La voiture qui se conduit toute seule ne va ôter ni la liberté ni la responsabilité. Pour décider de tuer et de mettre en prison, on aura toujours besoin d’un homme. 
     On l’aura remarqué. Les questions soulevées par la voiture qui se conduit toute seule sont extraordinairement malines et rusées. En apparence, sur un mode dramatique, tout est fait pour donner l’impression que l’on respecte la liberté et la responsabilité humaine. Vous craignez que, demain, liberté et responsabilité soient supprimées ? Vous avez tort. Pour des choses graves, tragiques, terribles comme le fait de tuer et de mettre en prison, on va avoir besoin de l’homme, de sa liberté et de sa responsabilité. Conservons ainsi à l’homme sa liberté et sa responsabilité. On ne remet pas en question la voiture qui se conduit toute seule. On assure au contraire celle-ci par une liberté et une responsabilité graves et tragiques. 
     Qui dit voiture qui se conduit toute seule dit forcément un monde dans lequel l’homme ne sera ni libre ni responsable, son destin étant désormais totalement pris en main par une puissance intelligente supérieure qui va conduire pour lui. Pour faire avaler ce changement de taille, les exemples choisis sont imparables. Disons à l’être humain que celui-ci va pouvoir conserver la possibilité de tuer ou de mettre en prison en programmant le meurtre ou bien encore le châtiment. On rassure les populations. On ne leur enlève ni la violence ni la punition. On fait même de la pub pour la voiture qui se conduit toute seule. En enlevant liberté et responsabilité, elle rend l’homme plus libre  en lui donnant une prise sur le tragique de l’existence. 
     La philosophie consistant à penser et penser à méditer sur la profondeur de l’existence et sa spiritualité, il va de soi que, dans les  questions soulevées ici, il n’y a aucune philosophie. En revanche, on est en présence d’une magistrale leçon de perversité intellectuelle et morale donnant l’impression que l’on se préoccupe de morale et de philosophie. Seul bénéfice : quand on commence à être sensible à ce que la pensée veut dire, on devient sensible à ce qui se passe quand la pensée ne pense pas. Quand on devient sensible à ce qui se passe quand on empêche de penser, on devient indirectement sensible à la pensée qui pense. 

Quels sont les gardes-fous éthiques à prendre en compte si on souhaite accompagner ce genre d'innovations technologiques ?

N’en doutons pas : les fabricants automobiles qui, afin de faire des montagnes de profits,  vont mettre en circulation la voiture qui se conduit toute seule, ne vont pas arrêter d’être prévenants, humains, à l’écoute du consommateur. Ils ne vont pas cesser d’être pleins d’éthique et de valeurs. La réalité est qu’ils vont faire comme Tesla aujourd’hui : surveiller en permanence toutes les voitures qui sont en circulation. En ce sens, la seule éthique qui va accompagner ce phénomène va résider dans « l’éthique » du contrôle et de la prévenance. Contrôler à un niveau planétaire les voitures qui se conduisent toutes seules en étant hyper-prévenants à l’égard de ceux qui les utilisent va être la seule possibilité d’organiser « éthiquement » ce monde fondamentalement dépourvu de toute éthique. 
     L’éthique est une attitude intérieure consistant à être relié à l’être non pas de l’extérieur par des règles extérieures (ce que l’on appelle la morale) mais intérieurement par une règle intérieure. À ce titre, rien n’est plus intérieur que l’éthique. Quand on a une éthique comme un sens de l’éthique, on fait tout pour devenir un être intérieur en veillant à ce que le monde autour de soi le soit. Avec la voiture qui se conduit toute seule, on est à l’opposé, tout étant fait pour que son usager soit déchargé de toute responsabilité intérieure et personnelle. Aussi, ne rêvons pas. Il ne va pas y avoir d’éthique. En revanche, on va avoir affaire à un système mondial de surveillance appelant éthique le fait de surveiller l’existence de chacun jusque dans sa voiture.  
   L’éthique est née avec les Anciens qui s’employaient à veiller eux-mêmes sur leur propre pensée, en vivant dans la vigilance. Demain, il y aura encore de l’éthique. On la trouvera chez ceux qui réclameront de pouvoir conduire leur voiture eux-mêmes ou, mieux, chez ceux qui descendent de leur voiture pour marcher à pied.