En direct
Best of
Best of du 12 au 18 octobre
En direct
Flash-actu
Articles populaires
Période :
24 heures
7 jours
01.

Des chercheurs identifient la mutation génétique qui explique que certaines personnes dorment très peu

02.

Le prince William est "inquiet" pour son frère

03.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

04.

Attention à vos smartphones, les cas de piratage sont de plus en plus fréquents

05.

Logement : il faut faire tout le contraire de la politique d’Anne Hidalgo !

06.

Partout dans l’OCDE, le problème spécifique du chômage des personnes originaires d’Afrique du Nord et du Moyen-Orient

07.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

01.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

02.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

03.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

04.

Des slips sur des statues de nus à l'UNESCO ! Pour ne pas heurter "certaines sensibilités"…

05.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

06.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Les musulmans persécutés en France ? La réalité par les chiffres

03.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

04.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

05.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

06.

Pression islamiste : quelles leçons de la guerre froide et du "containment" de la menace intérieure communiste ?

ça vient d'être publié
light > People
Les Rois maudits
Le prince William est "inquiet" pour son frère
il y a 11 heures 45 min
décryptage > Culture
Atlanti-Culture

"Le dernier des Yakuzas" de Jake Adelstein - Plongée dans le Japon des gangs, un héros inquiétant, un récit haletant !

il y a 14 heures 42 min
décryptage > Culture
Atlanti-Culture

"Looking for Beethoven" de Pascal Amoyel : Une immersion totale vibrante, époustouflante dans le monde de Beethoven

il y a 14 heures 50 min
décryptage > Société
Imbroglio politique

Irlande du Nord : Légalisation de l'avortement et du mariage homosexuel

il y a 17 heures 11 min
décryptage > Social
Marronnier

La SNCF sur la voie de garage

il y a 18 heures 53 min
décryptage > Société
Cachez-moi ça

Des slips sur des statues de nus à l'UNESCO ! Pour ne pas heurter "certaines sensibilités"…

il y a 19 heures 24 min
décryptage > Santé
La vie est injuste

Des chercheurs identifient la mutation génétique qui explique que certaines personnes dorment très peu

il y a 19 heures 59 min
décryptage > Europe
Disraeli Scanner

Comment l’individualisme risque de détruire la démocratie

il y a 20 heures 9 min
décryptage > Société
Ultra moderne voilitude

Cette double crise de la modernité qui paralyse les réflexes démocratiques français

il y a 20 heures 29 min
pépite vidéo > Faits divers
Héroique
Etats-Unis : Il désarme un élève armé d'un fusil à pompe en lui faisant un câlin
il y a 1 jour 13 heures
décryptage > Media
L'art de la punchline

Un 21 octobre en tweets : Jean-Sébastien Ferjou en 280 caractères

il y a 13 heures 21 min
décryptage > Culture
Atlanti-Culture

Livre : "Jour de courage" de Brigitte Giraud - Le jour du coming out d’un adolescent

il y a 14 heures 46 min
pépites > Société
Imbroglio politique
Irlande du Nord : Légalisation de l'avortement et du mariage homosexuel
il y a 17 heures 9 min
décryptage > Politique
Tribune

Logement : il faut faire tout le contraire de la politique d’Anne Hidalgo !

il y a 18 heures 41 min
décryptage > Social
Disparité

Partout dans l’OCDE, le problème spécifique du chômage des personnes originaires d’Afrique du Nord et du Moyen-Orient

il y a 19 heures 5 min
décryptage > Economie
Ecologisme

PLF 2020 : la fiscalité environnementale ne sauvera pas la planète

il y a 19 heures 34 min
décryptage > Science
Quand le ciel nous tombe sur la tête

L'Europe lance un programme de résilience aux tempêtes solaires

il y a 20 heures 4 min
décryptage > Atlantico business
Atlantico Business

Santé, retraite, service public : Macron tenté de reprendre son programme de réformes à zéro

il y a 20 heures 24 min
décryptage > Social
Attention, danger politique du troisième type

Gouvernement, minorités activistes et reste de la société : le trio infernal que plus rien ne relie ?

il y a 20 heures 42 min
décryptage > Culture
Atlanti-Culture

"Vania : Une même nuit nous attend tous" : "Oncle Vania" revisité

il y a 1 jour 14 heures
Les robots vont-ils prendre le contrôle ?
Les robots vont-ils prendre le contrôle ?
Sarah Connor ?

L'université de Cambridge l'affirme : les robots pourraient un jour prendre le contrôle de l'humain. Mais quand ?

Publié le 29 novembre 2012
Un collectif d'universitaires vient d'ouvrir un centre scientifique au cœur de l'université de Cambridge pour réfléchir à la révolution des intelligences artificielles.
Anders Sandberg est chercheur à l'Institut du futur de l'humanité de l'université d'Oxford, et travaille sur les problématiques sociétales et éthiques qui entourent les progrès de la technologie.
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Anders Sandberg
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Anders Sandberg est chercheur à l'Institut du futur de l'humanité de l'université d'Oxford, et travaille sur les problématiques sociétales et éthiques qui entourent les progrès de la technologie.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Un collectif d'universitaires vient d'ouvrir un centre scientifique au cœur de l'université de Cambridge pour réfléchir à la révolution des intelligences artificielles.

Atlantico : Dans son livre "Le meilleur des mondes", Aldoux Huxley anticipait le fait que la société deviendrait bientôt prisonnière de son jusqu’au boutisme scientifique. Sommes-nous proches de ce scénario à l’heure actuelle ?

Anders Sandberg : D’une certaine manière, on peut dire que toutes les sociétés sont prisonnières de leur propre logique, qu’elle soit scientifique, religieuse ou culturelle. C’est tout simplement plus évident lorsqu’il s’agit de la science car son rôle en société se constate au quotidien. Par contre, il est vrai d’affirmer que plus nous maîtrisons la fabrication  d’objets automatisés, plus nous leur confions des responsabilités qui étaient jusque-là strictement réservées aux êtres humains. Les machines peuvent aujourd’hui prendre des décisions et des initiatives, comme c’est déjà le cas avec les logiciels de flash-trading. Si ces avancées technologiques sont bien utilisées, elles ne devraient pas heurter l’autonomie des hommes outre-mesure, mais il faut rappeler qu’hélas la conception de toute technologie est imparfaite à l’origine et ne peut se soucier par nature de l’ensemble complexe et divers de nos besoins. On peut évoquer pour illustrer ce propos les réseaux sociaux qui refusent de reconnaître le caractère pluriel de notre identité ou encore les systèmes de correction automatique qui nous induisent parfois en erreur, ce qui prouve selon moi que malgré leur sophistication, ces systèmes ont de fait une compréhension imparfaite de notre identité et de nos intérêts.

Il ne faudrait pas tomber cependant dans le techno-scepticisme, dans le sens où le progrès scientifique peut apporter confort et sécurité : nous, Européens, vivons dans une ère sans précédente de paix, de prospérité et d’autonomie croissante. Cependant, la probabilité d’un usage mauvais de la technologie peut déboucher sur des conséquences gravissimes, tout particulièrement dans notre époque d’interdépendance économique. Le déclenchement d’une guerre moderne pourrait en effet causer des milliers de pertes quand l’on sait jusqu’où peut aller aujourd’hui la science militaire, et le scénario d’un gouvernement totalitaire fonctionnant sur le principe de la surveillance automatisée, via la vidéo-sécurité ou les réseaux sociaux, n’est pas totalement impensable, bien que cela soit aujourd’hui loin de nous à mon avis.

Je ne suis donc pas tellement effrayé par la technologie en tant que concept, mais par notre tendance à fabriquer des ensembles technologiques fragiles et mal-pensés. Cela soulève des problèmes tant politiques qu’institutionnels ou économiques.

De récentes recherches tendent à prouver que l’intelligence artificielle deviendra potentiellement supérieure à l’intelligence humaine. Devons-nous considérer que même le progrès technologique doit avoir ses propres limites ?

Il n’y a selon pas de différences fondamentales entre technologie et biologie d’un point de vue de la performance : nous pouvons construire des machines, nous pouvons les intégrer à des organismes vivant (on pense aux jambes bioniques NDLR) ou même créer des organismes génétiquement modifiés. La seule différence fondamentale, même si elle n’est pas des moindres, concerne l’origine de ces organismes.

A terme, il y a des limites à ce qui peut être fait dans notre univers, bien qu’elles soient très très éloignées de nous actuellement. Sur le plan scientifique, il est donc plus que prématuré d’imaginer des limites à ce que nous pouvons faire.

La vraie question est bien sûr de se demander jusqu’où l’intelligence artificielle pourra se développer et à partir de quand elle dépassera les compétences humaines. Les machines peuvent s’avérer aujourd’hui extrêmement performantes dans des domaines précis et bien délimités comme les mathématiques, la reconnaissance d’images ou la conduite d’un véhicule, mais elles sont encore incapables, contrairement aux humains, de faire face à un problème qui n’aura pas préalablement été intégré à leur logiciel. Il est aujourd’hui impossible d’anticiper les progrès futurs à ce niveau, ce qui laisse entendre que l’émergence d’une machine intelligente et autonome n’est pas immédiate. 

Le plus important est de découvrir si les progrès effectués par l'Intelligence Artificielle (IA) peuvent être lents ou rapides par rapport aux progrès humains. Si les machines peuvent devenir rapidement intellectuellement plus puissantes, nous n'aurons pas la chance de corriger les défauts dans leur conception, notamment leurs motivations. Cela signifie que le futur sera dirigé par des esprits fondamentalement déments, ou qui ont des objectifs incompatibles avec la survie humaine. Cependant, si l'explosion de l'intelligence des machines est plus lente, les humains peuvent aider cette dernière à être plus compatible avec leur survie et, avec un peu de chance, recueillir les bienfaits d'un monde partagé avec des esprits considérablement plus puissants. Mais pour l'instant, nous ne savons pas ce quelle option est la plus susceptible de se produire, ou même comment le découvrir : c'est l'un des principaux défis que nous voulons explorer dans nos recherches.

Doit-on par conséquent envisager l'instauration de règles éthiques afin de contrôler l'avancée du progrès technologique ?

Les progrès n'ont jamais été placés sous contrôle, ou n'ont jamais été susceptibles de l'être car cela impliquerait que les découvertes soient connues à l'avance. Mais nous pouvons prévoir, et viser la réduction des risques. Certaines technologies sont très dangereuses, et devraient être approchées avec précaution. L'idéal serait de les aborder avec d'autres technologies plus sûres, qui ont déjà été développées dans un premier temps. Parfois, ralentir le progrès peut être une bonne idée. Mais les prévisions peuvent aussi impliquer de travailler dur sur le développement de technologies prometteuses, ou d'enquêter sur ce dont nous avons besoin de découvrir. Si l'on fait des erreurs auxquelles on peut survivre, elles sont alors un excellent moyen d'apprendre.

Nous avons besoin pour l'instant de plus d'enquêtes sur la manière dont nous pouvons fabriquer des logiciels intelligents qui ont des motivations intelligentes, ou sur la manière de les créer pour leur apprendre à l'être. C'est une problématique passionnante et complexe, qui se situe au carrefour de la philosophie et de l'informatique.

Propos recueillis par Théophile Sourdille

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.

Des chercheurs identifient la mutation génétique qui explique que certaines personnes dorment très peu

02.

Le prince William est "inquiet" pour son frère

03.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

04.

Attention à vos smartphones, les cas de piratage sont de plus en plus fréquents

05.

Logement : il faut faire tout le contraire de la politique d’Anne Hidalgo !

06.

Partout dans l’OCDE, le problème spécifique du chômage des personnes originaires d’Afrique du Nord et du Moyen-Orient

07.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

01.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

02.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

03.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

04.

Des slips sur des statues de nus à l'UNESCO ! Pour ne pas heurter "certaines sensibilités"…

05.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

06.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Les musulmans persécutés en France ? La réalité par les chiffres

03.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

04.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

05.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

06.

Pression islamiste : quelles leçons de la guerre froide et du "containment" de la menace intérieure communiste ?

Commentaires (8)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
zelectron
- 29/11/2012 - 20:16
l'homme bicentenaire ? (Asimov)
Cambridge veut nous faire prendre des vessies pour des lanternes, ce n'est pas le fait de porter ce nom qui lui permet de dire n'importe quoi.
Ingenieur Gadget
- 29/11/2012 - 19:52
Intelligence et conscience
@ eldorove
Effectivement, il est réducteur voir erronée de réduire l'intelligence à une simple capacité de traitement de l'information, ou de réaliser une tache avec succès. L'intelligence et la conscience humaine semblent recouvrir beaucoup plus de choses que ça, et j'ai d'ailleurs traité de ce problème dans cet article :
http://www.apachemag.com/anime-ex-machina/

Les machines peuvent elles avoir une conscience, et/ou développer une réelle intelligence ? La question est plus complexe que de juste être capable de "singer" les capacités humaines
ender
- 29/11/2012 - 16:34
I ROBOT
j'aime bien l'idée de croire que un jour les robot seront plus intelligents que nous
Mais comme eldorove(je trouve sont analyse très pertinente) je trouve sa pas très crédible et pour ceux qui se dissent que tout et possible je leur conseille de lire Isac Asimov et tous particulièrement sont œuvre sur les robots et les fameuse trois lois de la robotique.
ou encore sont roman l'homme bicentenaire.