En direct
Best of
Best of du 28 mars au 3 avril
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Confinement indifférencié : une punition collective de moins en moins justifiable. Les preuves scientifiques

02.

Le monde de l’Arabie saoudite s’effondre

03.

Déconfinement à Wuhan : les acheteurs chinois semblent avoir perdu le goût de la consommation

04.

La France en récession : les trois conditions pour que ça reparte très vite. Et c’est possible

05.

Vers un grand tremblement de terre ? Et si les deux verrous allemands et français qui bloquent l’Europe étaient en train de céder...

06.

Comment l’éducation de nos parents détermine lourdement notre capacité à devenir leader ou non

07.

Manuel Valls alerte sur le risque d’effondrement de l’Europe face à la crise du coronavirus

01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Confinement indifférencié : une punition collective de moins en moins justifiable. Les preuves scientifiques

03.

Alors que tout s’effondre, l’économie et le moral, une seule bonne nouvelle : les banques ne feront pas faillite

04.

Covid-19 : le gouvernement prépare l'opinion à l’utilisation du tracking digital pour sortir du confinement

05.

Derrière le cas Lallement, l’insupportable infantilisation des Français

06.

Luc Rouban: "Cette crise sanitaire marque la fin du macronisme et le retour du clivage gauche droite"

01.

Ce risque politique énorme que prend le gouvernement en ne limogeant pas le Préfet Lallement

02.

Vers un grand tremblement de terre ? Et si les deux verrous allemands et français qui bloquent l’Europe étaient en train de céder...

03.

Crise sanitaire et manque de réactivité : la France est-elle dirigée par des fonctionnaires non élus ?

04.

Nombre de morts, manque de moyens, soupçons d’euthanasie : ce qui se passe vraiment dans les Ehpad ?

05.

Covid-19 : les patients en réanimation n’ont "pas respecté le confinement" ? Didier Lallement s’excuse

06.

Confinement indifférencié : une punition collective de moins en moins justifiable. Les preuves scientifiques

ça vient d'être publié
décryptage > Politique
Principales leçons

En France, le virus tue. Et les Amateurs apprennent la communication…

il y a 33 min 16 sec
décryptage > Santé
Contrefaçon

La crise du Coronavirus fait flamber la circulation de faux médicaments

il y a 1 heure 5 min
décryptage > Economie
Or noir

Le monde de l’Arabie saoudite s’effondre

il y a 1 heure 38 min
décryptage > France
Obstacles

Ces 5 maux français qui nous entravent face à la crise du Coronavirus

il y a 2 heures 40 min
décryptage > France
Solidité

Résilience : oui, la crise est profonde, non l’apocalypse occidentale n’est pas en cours

il y a 3 heures 30 min
pépites > Europe
Solidarité européenne
Manuel Valls alerte sur le risque d’effondrement de l’Europe face à la crise du coronavirus
il y a 13 heures 33 min
pépites > Europe
Combat contre le Covid-19
Coronavirus : le Premier ministre britannique Boris Johnson est sorti des soins intensifs
il y a 14 heures 50 min
décryptage > Culture
Atlanti Culture

"Le Maître du Haut Château - The Man in the High Castle", une série visible sur Amazon Prime Video : et si l'Allemagne et le Japon avaient gagné la guerre ? Une uchronie palpitante

il y a 16 heures 15 min
pépites > Economie
"Plus grande récession en France depuis 1945"
Gérald Darmanin et Bruno Le Maire annoncent un "plan d'urgence révisé à 100 milliards d'euros" face à une chute du PIB de 6% cette année
il y a 17 heures 5 min
pépites > Economie
Mesures exceptionnelles
Etats-Unis : la Fed active un dispositif de 2.300 milliards de dollars pour soutenir l’économie américaine face au coronavirus
il y a 19 heures 12 min
décryptage > Défense
Silence des armes après le déluge de feu ?

Le Coronavirus, candidat au prix Nobel de la Paix ?

il y a 49 min 28 sec
décryptage > Education
Peut mieux faire

Les diplômes pour tous et sans examens ! C’est ce que réclame l’UNEF, syndicat résolument révolutionnaire

il y a 1 heure 26 min
décryptage > Economie
Nouvelle étape dans la guerre commerciale ?

Dé-mondialisation passagère ou profonde ? Les entreprises américaines ont commencé à se désengager de Chine

il y a 2 heures 14 min
décryptage > Politique
Entretien

David Lisnard : "A Cannes, nous nous sommes très vite inspirés des exemples étrangers pour pallier les défaillances de la bureaucratie d’Etat"

il y a 3 heures 7 min
pépites > Europe
Tournant dans la crise ?
Coronavirus : les pays de l'Union européenne trouvent un accord pour une réponse économique commune face à l'épidémie
il y a 12 heures 57 min
pépites > Finance
Espoir…
Le FMI estime que le coronavirus provoque les "pires conséquences économiques depuis la Grande Dépression" de 1929
il y a 13 heures 55 min
pépite vidéo > Culture
Chansons pour le personnel soignant
"Et demain ?" : 350 personnalités mobilisées pour une chanson caritative au profit de la lutte contre le Covid-19
il y a 15 heures 25 min
décryptage > Culture
Atlanti Culture

"La Neige Noire" de Paul Lynch : un tableau saisissant du monde paysan d’avant-guerre, loin d’une image bucolique et stéréotypée

il y a 16 heures 37 min
light > Politique
Sécurisation des déplacements présidentiels
Le parc automobile de l’Elysée a été équipé de barrières antipostillons
il y a 18 heures 2 min
pépites > Santé
Déplacement surprise
Emmanuel Macron rencontre le professeur Didier Raoult à Marseille en ce jeudi 9 avril
il y a 19 heures 56 min
© Flickr
Le scénario du prochain blockbuster hollywoodien met en scène une intelligence artificielle.
© Flickr
Le scénario du prochain blockbuster hollywoodien met en scène une intelligence artificielle.
I, Robot

Intelligence artificielle (mais réelle absurdité ?) : Roko’s Basilisk, la légende urbaine qui affole les cerveaux du net

Publié le 12 août 2014
Une intelligence artificielle surpuissante qui voudrait le bien de l'humanité mais punirait tous ceux qui n'auraient pas aidé à son émergence : ce n'est pas le scénario du prochain blockbuster hollywoodien, mais la théorie avancée par un anonyme sur un site internet principalement fréquenté par des scientifiques, et qui a semble-t-il effrayé une bonne partie de ces derniers.
Jean-Gabriel Ganascia est professeur à l'université Pierre et Marie Curie (Paris VI) où il enseigne principalement l'informatique, l'intelligence artificielle et les sciences cognitives. Il poursuit des recherches au sein du LIP6, dans le...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Jean-Gabriel Ganascia
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Jean-Gabriel Ganascia est professeur à l'université Pierre et Marie Curie (Paris VI) où il enseigne principalement l'informatique, l'intelligence artificielle et les sciences cognitives. Il poursuit des recherches au sein du LIP6, dans le...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Une intelligence artificielle surpuissante qui voudrait le bien de l'humanité mais punirait tous ceux qui n'auraient pas aidé à son émergence : ce n'est pas le scénario du prochain blockbuster hollywoodien, mais la théorie avancée par un anonyme sur un site internet principalement fréquenté par des scientifiques, et qui a semble-t-il effrayé une bonne partie de ces derniers.

Partant du postulat selon lequel l'intelligence artificielle parviendra un jour à un niveau de puissance bien supérieur à celui de l'homme, un membre de la communauté "LessWrong" connu sous le pseudonyme de "Roko" a émis l'hypothèse selon laquelle toute personne n'ayant pas contribué au développement de ladite intelligence, et n'ayant donc ainsi pas œuvré au bien commun, pourrait devoir en subir les conséquences au travers de "punitions" décidées par cette "IA". Cette théorie a provoqué de vives réactions au sein de la communauté LessWrong, au point que son fondateur Eliezer Yudkowsky l'a lui-même commentée, puis a supprimé le fil de conversation, qui reste tout de même consultable sur le site Reddit.com.

Atlantico : Par quel cheminement intellectuel en arrive-t-on à penser qu'une intelligence artificielle pourrait décider de "punir" de manière rétroactive toute personne qui n'aurait pas participé à son développement ?

Jean-Gabriel Ganascia :  Indubitablement, le cheminement intellectuel à l’issu duquel on envisage que l’intelligence artificielle viendrait "punir" certains hommes et en récompenser d’autres apparaît tortueux au premier abord. Pourtant, si l’on parvient à comprendre l’imaginaire des tenants de la singularité technologique qui professent ce genre de théorie, cela peut se concevoir (même si l’on n’y adhère pas). Pour essayer de le faire, retraçons les étapes essentielles de ce raisonnement. En premier lieu, on se place après l’advenue de cette rupture technologique majeure. A l’issue de celle-ci les machines deviendront non seulement plus puissantes que l’intellect humain mais aussi le support de nos propres consciences qui seront téléchargées à l’instar de programmes informatiques. En second lieu, on pense que l’humanité se divise en deux : ceux qui aspirent au progrès de l’esprit et ceux qui s’attachent aux formes anciennes, en particulier à l’humanité telle que nous la connaissons aujourd’hui. Les premiers vont dans le sens de l’histoire. Les seconds sont rétrogrades. Dès lors, il apparaît "naturel", dès que l’intelligence artificielle sera parvenue à accomplir son programme, à savoir dès qu’elle sera en mesure de télécharger la conscience des hommes sur des machines, que l’on récompense ceux qui y auront contribué et que l’on pénalise les autres…

Apparemment le fait que ces personnes susceptibles d'être punies soient décédées ne pose pas de problème à l'établissement de cette théorie, grâce à un système de "doubles". Qu'en est-il plus précisément ?

Comme nous venons de le voir, nous nous plaçons après l’advenue de la Singularité technologique, ce qui veut dire que nous nous situons dans un monde où il serait possible de télécharger la conscience sur une machine après la mort physique des individus. Dès lors, la disparition du corps n’aurait pas d’importance : il y aurait une vie de l’esprit après la fin de la vie biologique. Bien évidemment, tout ceci reste très spéculatif… Cependant, on conçoit aisément  que, sous ces hypothèses, on imagine porter atteinte à une femme ou un homme après sa mort, en s’en prenant à son esprit. Bref, il s’agit d’une espèce de purgatoire des âmes, ou d’enfer promis à ceux qui ne se comporteraient pas correctement…

Eliezer Yudkowsky a tenu des propos particulièrement agressifs à l'encontre de ce Roko, qualifiant son attitude d'irresponsable. Pourquoi ce type de théorie déclenche-t-il des réactions aussi violentes ou effrayées ? Quelles peurs sont agitées en sous-main ?

De même qu’il existe une magie blanche, altruiste et préventive, et une magie noire égoïste recourant à des démons maléfiques, de même il y a une singularité "amicale" (ce que Eliezer Yudkowsky appelle "friendlyAI") qui vise à l’épanouissement des individus et une singularité "gnostique" qui promet l’immortalité à une caste d’initiés. L’opposition entre Eliezer Yudkowsky et Roko recouvre exactement cette division : Eliezer Yudkowsky aspire à une technologie qui se mettrait au service de la société et qui aiderait le plus grand nombre, tandis que Roko souhaite une technologie puissante qui permette à quelques uns d’accéder à l’immortalité. Pour que cette puissance technologique parvienne à réaliser ses objectifs, il faut mobiliser tous les talents et donc les motiver en les récompensant, s’ils ont bien agi, et en les punissant, sinon. On conçoit aisément que certains, comme Eliezer Yudkowsky, soient très mécontents de discours comme ceux de Roko, puisque de telles perspectives contreviennent totalement à leurs conceptions généreuses.

Cette théorie est-elle loufoque de bout en bout, ou est-elle tout de même en phase avec certains enjeux de l'intelligence artificielle ? Celle-ci notamment est-elle nécessairement liée à la notion de bien commun ?

Ces théories se trouvent en phase avec l’imaginaire d’un certain nombre de chercheurs et d’ingénieurs en intelligence artificielle ou en robotique. Cela recouvre un courant de pensée extrêmement puissant, surtout aux Etats-Unis, dans les industries de haute technologie. Ainsi, la société Google finance l’université de la singularité depuis quelques années. Pour autant, on peut douter du sérieux de ces allégations. En effet, elles reposent sur deux idées très discutables. Selon la première, le progrès technologique se déploierait de façon autonome et il obéirait à une loi de croissance exponentielle. Selon la seconde, l’intelligence des machines serait en rapport immédiat avec la puissance de calcul et la capacité des dispositifs de stockage d’information. Or, on peut réfuter très facilement ces deux hypothèses. Plus exactement, rien ne permet d’affirmer qu’elles sont vraies. Enfin, pour essayer d’anticiper l’avenir, il faut confronter différents scénarios. C’est par exemple ce que font les chercheurs en climatologie lorsqu’ils élaborent différents modèles, sous différentes hypothèses, puis qu’ils les font "fonctionner" pour les confronter. Or, les scénarios évoquant la singularité technologique ne reposent sur aucun modèle ni aucune confrontation. En cela, ils n’ont rien de scientifique, quand bien même ils se fonderaient sur des scénarios recourant au progrès des sciences et des technologies. Ce sont donc des fictions scientifiques qui s’inspirent plus de science fiction que de science.

Propos recueillis par Gilles Boutin

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.

Confinement indifférencié : une punition collective de moins en moins justifiable. Les preuves scientifiques

02.

Le monde de l’Arabie saoudite s’effondre

03.

Déconfinement à Wuhan : les acheteurs chinois semblent avoir perdu le goût de la consommation

04.

La France en récession : les trois conditions pour que ça reparte très vite. Et c’est possible

05.

Vers un grand tremblement de terre ? Et si les deux verrous allemands et français qui bloquent l’Europe étaient en train de céder...

06.

Comment l’éducation de nos parents détermine lourdement notre capacité à devenir leader ou non

07.

Manuel Valls alerte sur le risque d’effondrement de l’Europe face à la crise du coronavirus

01.

Belgique : le stock stratégique de masques a été détruit pour faire de la place aux migrants

02.

Confinement indifférencié : une punition collective de moins en moins justifiable. Les preuves scientifiques

03.

Alors que tout s’effondre, l’économie et le moral, une seule bonne nouvelle : les banques ne feront pas faillite

04.

Covid-19 : le gouvernement prépare l'opinion à l’utilisation du tracking digital pour sortir du confinement

05.

Derrière le cas Lallement, l’insupportable infantilisation des Français

06.

Luc Rouban: "Cette crise sanitaire marque la fin du macronisme et le retour du clivage gauche droite"

01.

Ce risque politique énorme que prend le gouvernement en ne limogeant pas le Préfet Lallement

02.

Vers un grand tremblement de terre ? Et si les deux verrous allemands et français qui bloquent l’Europe étaient en train de céder...

03.

Crise sanitaire et manque de réactivité : la France est-elle dirigée par des fonctionnaires non élus ?

04.

Nombre de morts, manque de moyens, soupçons d’euthanasie : ce qui se passe vraiment dans les Ehpad ?

05.

Covid-19 : les patients en réanimation n’ont "pas respecté le confinement" ? Didier Lallement s’excuse

06.

Confinement indifférencié : une punition collective de moins en moins justifiable. Les preuves scientifiques

Commentaires (1)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
brennec
- 12/08/2014 - 14:27
Définition
Intelligence artificielle : tout le contraire de la connerie naturelle.