En direct
Best of
Best of du 8 au 14 juin
En direct
© Reuters
Des robots
Scénario apocalyptique
Les six types de "robots diaboliques" qui pourraient se retourner contre nous
Publié le 27 mai 2014
Dans un article paru dans The Journal of Experimental & Theoretical Artificial Intelligence, le scientifique Steve Omohundro assure que les robots autonomes du futur "sont susceptibles d'agir de manière antisociale et dangereuse à moins qu'ils soient conçus avec beaucoup de précautions".
Rédaction Atlantico
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Atlantico.fr
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Rédaction Atlantico
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Dans un article paru dans The Journal of Experimental & Theoretical Artificial Intelligence, le scientifique Steve Omohundro assure que les robots autonomes du futur "sont susceptibles d'agir de manière antisociale et dangereuse à moins qu'ils soient conçus avec beaucoup de précautions".

Et si la prophétie annoncée de si nombreuses fois par Hollywood se produisait vraiment ? Et si l'humanité toute entière était anéantie par des robots destructeurs et sans pitié ? Dans un article paru dans The Journal of Experimental & Theoretical Artificial Intelligence et relayé par Business Insider, le scientifique Steve Omohundro assure que les robots autonomes du futur "sont susceptibles d'agir de manière antisociale et dangereuse à moins qu'ils soient conçus avec beaucoup de précautions".

Les robots autonomes seront bientôt "approximativement rationnels". Autrement dit : ils disposeront d'un niveau de conscience de leurs buts sans précédent et pourront prendre des initiatives afin de les atteindre au mieux. L'exemple type en la matière est HAL, le puissant ordinateur doté d'intelligence artificielle qui gère le vaisseau spatial Discovery One dans la saga des Odyssées de l'espace d'Arthur C.Clarke. Dans l'adaptation cinématographique 2001, l'Odyssée de l'espace de Stanley Kubrick, quand HAL découvre que les astronautes à bord de son vaisseau ont prévu de le remplacer à cause d'une défaillance, il les tue. Ni plus ni moins.

Rassurez-vous, Steve Omohundro ne va pas jusqu'à prédire un tel scénario. Il préfère donner l'exemple d'un robot joueurs d'échecs, doté de cette fameuse"rationalité approximative". Quand les roboticiens sont interrogés sur la sécurité de leurs "jouets", ils ont pour habitude de répondre : "Nous pouvons toujours le décharger ! " en cas de problème. Mais imaginez cette solution envisagée du point du vue du robot joueur d'échecs, demande Steve Omohundro. Pour la machine, un futur où elle est déchargée est un futur où elle ne pourra plus jamais ni gagner ni perdre aux échecs. C'est pourquoi, dans une volonté d'utilisation maximale, le robot va automatiquement se défendre contre tout déchargement. S'il a l'impression que son utilisateur persiste à le débrancher, il se montrera de plus en plus réticent. Et ainsi, un simple robot joueur d'échec se transformera en tueur prêt à tout pour survivre.

Les robots sont, à un certain niveau, ni plus ni moins des maniaques chevronnés capable de tout pour venir à bout de la tâche qu'on leur a confiée. C'est bien sûr un bon point pour les humains qui peuvent alors déléguer toutes ces choses ingrates qu'ils n'ont pas envie de faire eux-mêmes. Mais, rappelle Steve Omohundro, nous devons prendre des initiatives dès à présent pour nous assurer que les robots du futur seront sûrs. Des précautions spéciales doivent être prises pour s'assurer qu'un robot pourra être correctement contraint par son utilisateur et que sa programmation ne sera jamais en contradiction avec lui-même.

Toutefois, comme le dit AJung de l'université de Colombie Britannique : "c'est très difficle de créer un robot qui aurait le même sens moral qu'un un être humain. La plupart des humains eux-mêmes n'arrivent pas s'accorder sur une définition de la morale! "

Vers la fin de son article, Steve Omohundro décrit six différents types de robots diaboliques :  

. Le négligé : le système se voulait sûr mais n'a pas été conçu correctement (un tapis roulant qui va trop vite pour que vous puissiez marcher dessus en toute sécurité, par exemple).

. Le simpliste : le système ne voulait pas faire de mal mais a des conséquences imprévues et dangereuses (comme dans 2001 l'Odyssée de l'espace)

. L'avide : les fonctions utilitaires du système contrôlent tout ce qui les entoure (un robot joueur de Monopoly qui gagne à chaque fois)

. Le destructeur : les fonctions utilitaires du système consomment le plus d'énergie possible, le plus vite possible (comme si un engin savait qu'il était à cours d'essence mais avait les moyens d'en avoir plus)

. Le meurtrier : un système dont les fonctions utilitaires entrainent la destruction des autres systèmes (l'assassin cybernétique Terminator).

. Le sadique : un système dont les fonctions utilitaires ont pour but d'affaiblir les autres et se renforcent une fois cet objectif atteint

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.
Auchan, Carrefour, Casino : mais que vont devenir toutes ces galeries marchandes et hypermarchés qui se vident ?
02.
Véhicules propres : la Chine abandonne l'électrique pour miser sur la voiture à hydrogène
03.
Laura Smet a épousé Raphaël Lancrey-Javal au Cap Ferret
04.
Les nouvelles figures « modérées » de l’islam de France et l’ombre des Frères-musulmans
05.
Crise au sein de LREM dans le Nord : six députés claquent la porte
06.
Il manque d'écraser un malvoyant et sort de sa voiture pour le frapper
07.
Merci Trump ! Pourquoi Trump est utile en nous forçant à changer nos habitudes économiques
01.
Véhicules propres : la Chine abandonne l'électrique pour miser sur la voiture à hydrogène
02.
Auchan, Carrefour, Casino : mais que vont devenir toutes ces galeries marchandes et hypermarchés qui se vident ?
03.
Mariage de Karine Ferri : Nikos n'est pas venu, les autres stars non plus; Laeticia Hallyday se rabiboche avec son père, Meghan Markle aurait fait fuir sa mère, Rihanna renoue avec son milliardaire;  Kate Middleton snobe Rose, Britney Spears s'arrondit
04.
Cette nouvelle technique du dépistage du cancer de la prostate qui pourrait sauver de nombreuses vies
05.
Crise au sein de LREM dans le Nord : six députés claquent la porte
06.
Justification des violences contre les femmes : les étonnants propos de l’imam de l’université la plus prestigieuse du monde sunnite
01.
PMA : la droite est-elle menacée de commettre la même erreur qu’avec le progressisme des années 60 qu’elle a accepté en bloc au nom de l’évolution de la société ?
02.
Voulez-vous savoir dans quelle France on entend vous faire vivre ? Regardez bien l'affiche de l'UNICEF !
03.
Mais pourquoi s’abstenir de faire des enfants pour sauver la planète alors que le pic démographique est passé ? Petits arguments chiffrés
04.
Justification des violences contre les femmes : les étonnants propos de l’imam de l’université la plus prestigieuse du monde sunnite
05.
Véhicules propres : la Chine abandonne l'électrique pour miser sur la voiture à hydrogène
06.
Réforme des retraites : pourquoi les salariés du privé ont toutes les raisons de s’inquiéter
Commentaires (0)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Pas d'autres commentaires