En direct
Best of
Best of du 18 au 24 mai 2019
En direct
Les robots vont-ils prendre le contrôle ?
Sarah Connor ?
L'université de Cambridge l'affirme : les robots pourraient un jour prendre le contrôle de l'humain. Mais quand ?
Publié le 29 novembre 2012
Un collectif d'universitaires vient d'ouvrir un centre scientifique au cœur de l'université de Cambridge pour réfléchir à la révolution des intelligences artificielles.
Anders Sandberg est chercheur à l'Institut du futur de l'humanité de l'université d'Oxford, et travaille sur les problématiques sociétales et éthiques qui entourent les progrès de la technologie.
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Anders Sandberg
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Anders Sandberg est chercheur à l'Institut du futur de l'humanité de l'université d'Oxford, et travaille sur les problématiques sociétales et éthiques qui entourent les progrès de la technologie.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Un collectif d'universitaires vient d'ouvrir un centre scientifique au cœur de l'université de Cambridge pour réfléchir à la révolution des intelligences artificielles.

Atlantico : Dans son livre "Le meilleur des mondes", Aldoux Huxley anticipait le fait que la société deviendrait bientôt prisonnière de son jusqu’au boutisme scientifique. Sommes-nous proches de ce scénario à l’heure actuelle ?

Anders Sandberg : D’une certaine manière, on peut dire que toutes les sociétés sont prisonnières de leur propre logique, qu’elle soit scientifique, religieuse ou culturelle. C’est tout simplement plus évident lorsqu’il s’agit de la science car son rôle en société se constate au quotidien. Par contre, il est vrai d’affirmer que plus nous maîtrisons la fabrication  d’objets automatisés, plus nous leur confions des responsabilités qui étaient jusque-là strictement réservées aux êtres humains. Les machines peuvent aujourd’hui prendre des décisions et des initiatives, comme c’est déjà le cas avec les logiciels de flash-trading. Si ces avancées technologiques sont bien utilisées, elles ne devraient pas heurter l’autonomie des hommes outre-mesure, mais il faut rappeler qu’hélas la conception de toute technologie est imparfaite à l’origine et ne peut se soucier par nature de l’ensemble complexe et divers de nos besoins. On peut évoquer pour illustrer ce propos les réseaux sociaux qui refusent de reconnaître le caractère pluriel de notre identité ou encore les systèmes de correction automatique qui nous induisent parfois en erreur, ce qui prouve selon moi que malgré leur sophistication, ces systèmes ont de fait une compréhension imparfaite de notre identité et de nos intérêts.

Il ne faudrait pas tomber cependant dans le techno-scepticisme, dans le sens où le progrès scientifique peut apporter confort et sécurité : nous, Européens, vivons dans une ère sans précédente de paix, de prospérité et d’autonomie croissante. Cependant, la probabilité d’un usage mauvais de la technologie peut déboucher sur des conséquences gravissimes, tout particulièrement dans notre époque d’interdépendance économique. Le déclenchement d’une guerre moderne pourrait en effet causer des milliers de pertes quand l’on sait jusqu’où peut aller aujourd’hui la science militaire, et le scénario d’un gouvernement totalitaire fonctionnant sur le principe de la surveillance automatisée, via la vidéo-sécurité ou les réseaux sociaux, n’est pas totalement impensable, bien que cela soit aujourd’hui loin de nous à mon avis.

Je ne suis donc pas tellement effrayé par la technologie en tant que concept, mais par notre tendance à fabriquer des ensembles technologiques fragiles et mal-pensés. Cela soulève des problèmes tant politiques qu’institutionnels ou économiques.

De récentes recherches tendent à prouver que l’intelligence artificielle deviendra potentiellement supérieure à l’intelligence humaine. Devons-nous considérer que même le progrès technologique doit avoir ses propres limites ?

Il n’y a selon pas de différences fondamentales entre technologie et biologie d’un point de vue de la performance : nous pouvons construire des machines, nous pouvons les intégrer à des organismes vivant (on pense aux jambes bioniques NDLR) ou même créer des organismes génétiquement modifiés. La seule différence fondamentale, même si elle n’est pas des moindres, concerne l’origine de ces organismes.

A terme, il y a des limites à ce qui peut être fait dans notre univers, bien qu’elles soient très très éloignées de nous actuellement. Sur le plan scientifique, il est donc plus que prématuré d’imaginer des limites à ce que nous pouvons faire.

La vraie question est bien sûr de se demander jusqu’où l’intelligence artificielle pourra se développer et à partir de quand elle dépassera les compétences humaines. Les machines peuvent s’avérer aujourd’hui extrêmement performantes dans des domaines précis et bien délimités comme les mathématiques, la reconnaissance d’images ou la conduite d’un véhicule, mais elles sont encore incapables, contrairement aux humains, de faire face à un problème qui n’aura pas préalablement été intégré à leur logiciel. Il est aujourd’hui impossible d’anticiper les progrès futurs à ce niveau, ce qui laisse entendre que l’émergence d’une machine intelligente et autonome n’est pas immédiate. 

Le plus important est de découvrir si les progrès effectués par l'Intelligence Artificielle (IA) peuvent être lents ou rapides par rapport aux progrès humains. Si les machines peuvent devenir rapidement intellectuellement plus puissantes, nous n'aurons pas la chance de corriger les défauts dans leur conception, notamment leurs motivations. Cela signifie que le futur sera dirigé par des esprits fondamentalement déments, ou qui ont des objectifs incompatibles avec la survie humaine. Cependant, si l'explosion de l'intelligence des machines est plus lente, les humains peuvent aider cette dernière à être plus compatible avec leur survie et, avec un peu de chance, recueillir les bienfaits d'un monde partagé avec des esprits considérablement plus puissants. Mais pour l'instant, nous ne savons pas ce quelle option est la plus susceptible de se produire, ou même comment le découvrir : c'est l'un des principaux défis que nous voulons explorer dans nos recherches.

Doit-on par conséquent envisager l'instauration de règles éthiques afin de contrôler l'avancée du progrès technologique ?

Les progrès n'ont jamais été placés sous contrôle, ou n'ont jamais été susceptibles de l'être car cela impliquerait que les découvertes soient connues à l'avance. Mais nous pouvons prévoir, et viser la réduction des risques. Certaines technologies sont très dangereuses, et devraient être approchées avec précaution. L'idéal serait de les aborder avec d'autres technologies plus sûres, qui ont déjà été développées dans un premier temps. Parfois, ralentir le progrès peut être une bonne idée. Mais les prévisions peuvent aussi impliquer de travailler dur sur le développement de technologies prometteuses, ou d'enquêter sur ce dont nous avons besoin de découvrir. Si l'on fait des erreurs auxquelles on peut survivre, elles sont alors un excellent moyen d'apprendre.

Nous avons besoin pour l'instant de plus d'enquêtes sur la manière dont nous pouvons fabriquer des logiciels intelligents qui ont des motivations intelligentes, ou sur la manière de les créer pour leur apprendre à l'être. C'est une problématique passionnante et complexe, qui se situe au carrefour de la philosophie et de l'informatique.

Propos recueillis par Théophile Sourdille

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.
Rihanna éconduit Neymar, Charlotte Casiraghi & Gad Elmaleh s’ignorent, Anthony & Alain-Fabien Delon se vengent de leur père; Karine Ferri investit lourdement pour son mariage (et invite utile); Johnny Depp : c’est Amber qui l’aurait battu
02.
LREM, UDI, LR ou abstention ? Petit guide pour ceux qui voudraient (vraiment) voter libéral aux Européennes…
03.
Il agresse un agriculteur pendant que son épouse filme
04.
Ce qui explique la nouvelle vague d'eugénisme
05.
Cannes : Abdellatif Kechiche s'emporte contre la question "imbécile" et "malsaine" d'un journaliste
06.
Le nombre de cancers du côlon chez les jeunes adultes augmente nettement et voilà pourquoi
07.
La résignation des chômeurs face à la loi d’airain de l’offre et de la demande
01.
"Benghazi ne tombera pas en un jour"
01.
Pôle Emploi n’aime pas qu’on dise qu’il est peu efficace dans son accompagnement des chômeurs mais qu’en est-il concrètement ?
02.
Semaine à haut risque pour Emmanuel Macron : les trois erreurs qu’il risque de ne pas avoir le temps de corriger
03.
Burkini à la pisicine municipale : les périlleuses relations de la mairie de Grenoble avec les intégristes musulmans
04.
Cancer : cette découverte sur le cerveau qui ouvre de prometteuses voies de traitement
05.
Immobilier : l’idée folle de la mairie de Grenoble pour protéger les locataires mauvais payeurs
06.
Le nombre de cancers du côlon chez les jeunes adultes augmente nettement et voilà pourquoi
01.
Mondialisation, libre-échange et made in France : l’étrange confusion opérée par François-Xavier Bellamy
02.
Appel des personnes en situation de handicap ou familles concernées pour sauver Vincent Lambert d’une mort programmée
03.
La bombe juridique qui se cache derrière la décision de la Cour d’appel de Paris de sauver Vincent Lambert
04.
Chômage historiquement bas mais travailleurs pauvres : le match Royaume-Uni / Allemagne
05.
Des experts estiment dans un nouveau scénario que la hausse du niveau des océans pourrait dépasser deux mètres d'ici 2100
06.
LREM, UDI, LR ou abstention ? Petit guide pour ceux qui voudraient (vraiment) voter libéral aux Européennes…
Commentaires (8)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
zelectron
- 29/11/2012 - 20:16
l'homme bicentenaire ? (Asimov)
Cambridge veut nous faire prendre des vessies pour des lanternes, ce n'est pas le fait de porter ce nom qui lui permet de dire n'importe quoi.
Ingenieur Gadget
- 29/11/2012 - 19:52
Intelligence et conscience
@ eldorove
Effectivement, il est réducteur voir erronée de réduire l'intelligence à une simple capacité de traitement de l'information, ou de réaliser une tache avec succès. L'intelligence et la conscience humaine semblent recouvrir beaucoup plus de choses que ça, et j'ai d'ailleurs traité de ce problème dans cet article :
http://www.apachemag.com/anime-ex-machina/

Les machines peuvent elles avoir une conscience, et/ou développer une réelle intelligence ? La question est plus complexe que de juste être capable de "singer" les capacités humaines
ender
- 29/11/2012 - 16:34
I ROBOT
j'aime bien l'idée de croire que un jour les robot seront plus intelligents que nous
Mais comme eldorove(je trouve sont analyse très pertinente) je trouve sa pas très crédible et pour ceux qui se dissent que tout et possible je leur conseille de lire Isac Asimov et tous particulièrement sont œuvre sur les robots et les fameuse trois lois de la robotique.
ou encore sont roman l'homme bicentenaire.