Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
Elon Musk, entrepreneur de la Silicon Valley, a estimé que l'intelligence artificielle représentait un plus grand danger que les armes nucléaires.

Deep Blue 2.0

Intelligence artificielle : Google met le paquet pour concevoir des ordinateurs plus forts que le cerveau humain mais que se passera-t-il s’il y parvient ?

En aout 2014, l'un des entrepreneurs visionnaires de la Silicon Valley estimait que l'intelligence artificielle représente une plus grande menace que les armes nucléaires. Il déclarait alors sur tweeter "Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes." Des propos qui amusent certains de ses détracteurs mais qui ne sont peut-être pas si dénués de sens que cela.

Daniel Ichbiah

Daniel Ichbiah

Daniel Ichbiah est écrivain et journaliste, spécialisé dans les jeux vidéo, les nouvelles technologiques, la musique et la production musicale.

Il est l'auteur de nombreux best-sellers tels que La Saga des jeux vidéos, Les 4 vies de Steve Jobs, Rock Vibrations, Le Livre de la Bonne Humeur, Bill Gates et la saga de Microsoft, etc. Daniel Ichbiah a aussi écrit Robots - Génèse d'un peuple artificiel

Parmi les biographies musicales écrites par l’auteur figurent celles du groupe Téléphone, de Michael Jackson, des Beatles, d’Elvis Presley, de Madonna (il a également publié Les chansons de Madonna), des Rolling Stones, etc. 

Voir la bio »

Atlantico : Au cours du mois passé Elon Musk, entrepreneur de la Silicon Valley, a estimé que l'intelligence artificielle représentait un plus grand danger que les armes nucléaires. Quels sont les risques que peut présenter l'intelligence artificielle ?

Daniel Ichbiah : Le risque essentiel vient de gens comme Ray Kurzveil, l’un des gurus de la technologie chez Google et qui est le grand promoteur de la toute puissance supposée de l’Intelligence Artificielle. Il est persuadé que la fusion du corps humain et des puces informatiques va faire émerger une sorte de surhomme, d’une intelligence supérieure, et que nous pourrions même devenir immortel. Nombreux sont ceux qui prennent ces prédictions pour de pures balivernes. Il n’empêche que dans la Silicon Valley, cela a créé un courant de pensée avec pour pendant une véritable adoration pour l’Intelligence Artificielle. Alors oui, Elon Musk – un type remarquable, une sorte de nouveau Steve Jobs - a raison, c’est un vrai danger. Car les tenants de l’Intelligence Artificielle prônent aussi une civilisation où le pouvoir serait complètement donné aux ordinateurs, jugés plus smarts que nous, avec une dé-responsabilisation complète de l’Homme.

Tous ces zélateurs de l’informatique sont des gens qui oublient une chose pourtant fondamentale. Qui a créé qui ? C’est l’homme qui a créé l’ordinateur, pas l’inverse. Qui exploite les résultats de l’ordinateur ? L’homme. 

L’homme a créé cette machine pour qu’elle réponde à ses besoins. Franchement, j’ai tendance à penser que ceux qui déifient l’ordinateur et l’Intelligence Artificielle sont tout de même un peu désaxés…

Ces risques sont-ils véritablement comparables à la menace nucléaire ? Certains opposants de Musk jugent que le danger qu'il dépeint relève de la science-fiction. Qu'en est-il concrètement ?

Non, Musk a raison. Le danger est réel. Car cela induit pas mal d’idée secondaires. En voici une que prône la même bande : notre ADN serait une sorte de logiciel et que donc, si nous accomplissons quelque chose, ce pourrait être la faute de cet ADN. Déjà aux USA, récemment, dans certains procès, on a vu aux USA des prévenus se défendre en disant  : "ce n’est pas moi qui ai tué, c’est mon cerveau... ce n’est pas ma faute, c’est celle de mes gênes". C’est un axe de pensée hyper dangereux. Il ouvre la porte à toutes les dérives.

En 1997, Deep Blue a remporté une victoire historique aux échecs contre Garry Kasparov, champion du monde en titre. A l'époque, l'ordinateur occupait la 259ème place du TOP500 des supercalculateurs. Que faut-il y voir ? L'intelligence artificielle était-elle supérieure à la notre ; et l'est-elle aujourd'hui ?

Mais non… ça me fait toujours drôle les gens qui disent cela. Qui a créé Deep Blue ? IBM. Qui a programmé Deep Blue ? Des programmeurs d’IBM. Donc des humains. Nous avons donc eu en 1997, des humains – les programmeurs d’IBM – qui ont battu un humain – le joueur d’échecs Kasparov. 

En réalité, de tous temps les humains ont créé des outils pour suppléer aux insuffisances du corps. Que ce soit la fourchette, la machine à laver ou l’ordinateur, ce ne sont que des outils créés par les humains, et au service des humains. Je me souviens qu’en 1997 déjà, j’avais été invité à un débat sur ce thème à la radio et j’avais dit : nous serons à armes égales le jour où Deep Blue sera en mesure de créer un bébé humain.

Parallèlement, Google s'est associé avec le physicien John Martinis pour mettre en place un ordinateur quantique, dans l'idée de réaliser des machines capables de penser d'elles mêmes. Comment une telle évolution changerait nos vies ? 

L’ordinateur quantique existe d’ores et déjà – il en existe un qui est produit par D Wave Systems. Sans nul doute, nous allons créer des ordinateurs calculant de plus en plus vite. Cela ne veut pas dire qu’ils vont "penser" au sens où nous l’entendons.

Ce vieux mythe de la machine capable de penser remonte à la science-fiction. Un ordinateur ne ‘pense’ pas. Il exécute des logiciels et certains logiciels peuvent simuler le processus de la pensée humaine de façon hyper bluffante. 

La différence, c’est que, qu’on le veuille ou non, un ordinateur ne sera jamais conscient de sa propre existence. Ça, ça va dans les films à la 2001 Odyssée de l’Espace, c’est un beau jardin d’expérimentation pour des auteurs de fiction. Mais nous n’avons là qu’une machine avec des circuits à l’intérieur. Par quel miracle, l’ordinateur que l’on éteindrait le mardi se réveillerait avec une conscience le mercredi ?

Bref, nous avons là un courant de pensée qui est réellement dangereux car il cherche à nier des éléments fondamentaux de la personnalité humaine : le libre-arbitre et la responsabilité de ses actes.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !