Est-ce que vous tortureriez un robot (et pourquoi cette question pourrait avoir des conséquences majeures sur nos vies dans les années à venir) ?

Atlantico : De l'aspirateur aux humanoïdes en passant par les jouets, les robots font aujourd'hui partie de notre quotidien. Comment décrire les différentes relations que nous entretenons avec les robots  ?

Ronan MacDubhghaill : Nous entretenons des relations diversifiées avec les robots.Dans le vécu, ceux-ci restent soit des objets utiles (par exemple l'aspirateur, ou des robots industriels et médicaux), soit des curiosités (c'est le cas pour beaucoup des robots humanoïdes). Comme le ludique est un élément essentiel de la vie humaine, les jouets peuvent ainsi être considérés comme des curiosités utiles, mais pas des "utilitaires".

Dans un monde de plus en plus intéressé pas le "bien-être" (qui passe notamment par des robots médicaux), les formes de vie "naturelles", et "l’artisanal" (qui passe par des robots industriels), c’est intéressant de voir que les robots les plus utiles sont laissées dans l’ombre et que leur utilité apparaît aussi obscur.

Dans l’imaginaire collectif, les robots sont généralement associés aux robots humanoïdes doté de conscience à l'instar de Terminator, Blade Runner, Battlestar Galactica qui font également écho à cela. Au final, notre relation aux robots oscille entre l'ignorance (vers les robots utiles) et l’imaginaire (vers les humanoïdes).   

Une expérimentation organisée au Etats-Unis a révélé une réelle réticence des groupes humains à torturer des robots qui dans le cas présent étaient considérés comme "mignons". Comment expliquer ce phénomène ? Peut-il être assimilé à une forme d’empathie comme l'interprétait la chercheuse du MIT à l'origine de cette expérimentation ? Par quels mécanismes en arrive-t-on là ? 

Cette expérimentation, pour moi, est conçue pour produire des réponses émotionnelles. Déjà, les robots sont "cute" (jolis), et "helpless" (vulnérables), et donc faits pour créer une réponse émotionnelle, c’est-à-dire effectivement une forme d’empathie. En plus, des participants humains et à qui on demande de faire des actes violents contre des robots sont soumis au regard des autres êtres humains du groupe. Donc, le résultat ne doit donc être interprété comme une culpabilité envers un petit robot en forme de dinosaure, mais l’envie de ne pas être une brute devant un groupe d’êtres humains.

Mais s'il s'agissait de robots humanoïdes, avec des caractéristiques et des réactions humaines, la réponse est assez évidente. L’imaginaire du Golem du Prague ou encore le récit de Frankenstein nous évoquent ces êtres semblables aux humanoïdes que nous avons créés et qui un jour se révoltent contre l'Homme. Cela engendre un imaginaire de responsabilité vis-à-vis des robots humanoïdes, comme la responsabilité que Dieu a pour nous. Peut-être qu’on donne un excès d’empathie humaine aux objets et entités non humaines. Cela est surtout compréhensible s’ils sont conçus pour répliquer aux réactions humaines. Je ne pense pas qu’on aura trop d’empathie pour des robots chez Renault. Ceci ne se passe que dans les films de science-fiction. Il y a une forte différence entre cette vision imaginaire des robots dotés de conscience, un comportement plus ou mois humain et de la subjectivité, et notre situation actuelle dans lequel cette expérimentation a eu lieu. Donc, je pense que parler d'empathie est un peu inapproprié pour le moment.

Les robots tendent-ils à devenir une catégorie du vivant dans le vécu des gens ?

Encore une fois, on est dans l’imaginaire plus qu’autre chose. Les robots restent des choses utiles, des jouets, et des curiosités – pour le moment. En revanche, il est peut-être plus intéressant de parler de une "système technologique" qui est en train de se mettre en place avec et autour de nous comme un système vivant, comme une ambiance dynamique. C’est-à-dire, un système naturel, un quasi produit de la nature, un produit de la nature que nous, êtres humains, aurions développé. Nous sommes nous-mêmes des produits naturels, les expressions des processus naturels. Donc, tous ce qu’on est capable de faire est de l’ordre de la nature.

Les robots font juste partie de notre vie pour le moment, partie des sub-systèmes que nous avons créé dans la nature. Donc, de là à parler de catégorie de vivant, il est encore trop tôt.

Récemment, un manifeste a mis en avant le caractère sensible des animaux et appelé à une évolution de leur statut juridique. Peut-on imaginer qu'une telle chose puisse se produire dans le futur pour les robots, et plus précisément pour les humanoïdes ? Et donc, peut-on penser que des droits des robots soient un jour rédigés à l'instar du projet d'Isaac Asimov de lois de la robotique ?

Tout est imaginable. Les Droits de l’homme ont été imaginés et déclarés (comme l'a montré le philosophe écossais Alasdair MacIntyre) après l’holocauste et la Seconde Guerre mondiale. Une évolution dans le ‘statut juridique des animaux est provoqué seulement par l’exploitation industrielle des animaux, qui crée des abus et des excès. Et pour des robots alors ?
Pour éviter de nouvelles innovations juridiques – on en a déjà beaucoup ! – Il vaudrait peut-être mieux que les robots restent des objets les utiles, des jouets, ou des curiosités, et que les humanoïdes ne se multiplient pas trop. Mais l'amélioration du corps humain par la robotique va poser de nouvelles questions dans le domaine. Cela en vaut-il vraiment la peine ? 

Si l’idée que nous devons respecter les machines venait à se développer et que des "droits des robots" étaient effectivement mis en place qu’elles en seraient les conséquences éthiques ? Serions-nous obligés de changer nos comportements envers eux, au moins envers les humanoïdes ? 

Si l'on avait besoin de développer un système juridique vers des “droits des robots/machines”, cela impliquerait, bien sûr, un changement dans nos comportements envers eux. C’est-à-dire que l'on devrait trouver le bon rapport de pouvoir, le bon système biopolitique (d’après Foucault) pour vivre avec ces nouveaux êtres sensibles. Encore une fois, pour moi, la subjectivité des robots et leur forme de conscience impliqueront des questions importantes : serait-ce une forme de conscience plus limitée que la notre ? Égale ? Ou même, plus vaste, plus puissante ?

Ces facteurs-là, même s'ils sont aujourd’hui hypothétiques, sont essentiels pour répondre aux questions concernant des conditions de travail, le droit au respect, la sexualité humains/robots, la violence, l'encadrement de la désactivation, etc. qui pourraient apparaître. Il y a plusieurs scenarii qui peuvent émerger. Par exemple, si leur forme de conscience serait égale ou supérieure à la nôtre (ce qui est facilement  imaginable…) nous pourrions facilement les percevoir comme étant une menace, on les détruirait, ou les mettrait dans un statut d'esclave (du travail manuel, intellectuel, même peut-être sexuel).

Comme je l'ai montré toute à l’heure, dans la cas où des robots peuvent développer une forme de conscience (encore une fois, supérieure, égale, ou inférieure), cela crée bien évidement de nouveaux rapports de pouvoir dans la société. C’est intéressant de voir que dans l’imaginaire occidental, ce développement est normalement perçu comme une menace existentielle, qui produit une guerre très destructrice entre des robots et des humains. La trilogie “Matrix” est peut-être l'une des meilleures représentations de cet imaginaire, qui prend ses racines encore une fois dans l’histoire du Golem du Prague – la créature que l'on a créée comme esclave et qui fini par nous tuer.

Il est donc intéressant de voir à quel point les choses sont différentes dans des autres cultures. Chez les Japonais, par exemple, l’imaginaire de vivre ensemble avec des robots est fortement influencé par la concept japonais de "Wa" , leur forme particulière d'harmonie sociale. Dans cet imaginaire, des robots deviennent des partenaires, des collaborateurs des humains, comme ils le sont representés dans "Ghost in the Machine", "Brave Police J-Decker", ou de nombreux autres animés japonais.

Le régime biopolitique que nous aurions avec des robots dépendent aussi de nos cultures, et de nos propres capacités à vivre avec les autres êtres conscients, qu'ils soient humains ou robots.