Pour contrer la révolte des robots, Google veut leur installer un bouton "off"

Ke Jie sera-t-il tenté d'appuyer sur le "gros bouton rouge" ? Ce Chinois de 19 ans, meilleur joueur de go du monde, est le nouvel adversaire d'AlphaGo, la terrible machine qui remporte toutes ses parties. Développé la société DeepMind, qui appartient à Google, le programme est en fait une intelligence artificielle très efficace, qui pose la question sur les limites possibles de cette dernière.

Alors DeepMind, en collaboration avec des chercheurs d'Oxford a trouvé la solution pour les futurs robots :"le gros bouton rouge off" qui permet d'éteindre la machine si besoin. "L'interruption sécurisée permet de reprendre le contrôle sur le robot qui se conduit mal et devient dangereux pour les autres ou pour lui-même" précise l'étude. En effet, l'intelligence artificielle peut se retrouver dans une situation qu'il ne connait pas dans ses bases de données.

L'idée est aussi de se prémunir contre une IA trop affûtée. Si on est encore loin de l'ordinateur de Stanley Kubrick, le futur devrait voir apparaitre des robots capables d'apprendre par eux-mêmes, grâce à des algorithmes, toujours plus efficaces. "Nous ne sommes pas encore certains si tous les algorithmes sont, ou non, réversibles" préviennent les auteurs. En cas d'une révolte, type film catastrophe, il suffira donc d'appuyer sur le bouton "off." Espérons que ce soit aussi simple…

Pourquoi il est faux (et dangereux pour la science) de penser qu'un ordinateur et un cerveau humain fonctionnent de la même manière
Read more at http://www.atlantico.fr/decryptage/pourquoi-est-faux-et-dangereux-pour-science-penser-qu-ordinateur-et-cerveau-humain-fonctionnent-meme-maniere-2711407.html#1lFbAVfX6lOCwBX0.99