En direct
Best of
Best of du 21 au 27 mars
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

02.

Béatrice Dalle se marie à nouveau, Katy Perry & Orlando Bloom décalent; Daniel Craig veut tout claquer avant de mourir; Kim Kardashian : sex-exploitée par sa mère ?; Angelina Jolie repart en guerre contre Brad

03.

Et maintenant voici Emmanuel la - menace - : « on se souviendra de ceux qui n’auront pas été à la hauteur » !

04.

Le marché de Rungis va proposer un service de vente en ligne et de livraison suite au confinement

05.

Coronavirus : et voilà ce qui se serait passé si on n’avait rien fait contre l’épidémie

06.

Coronavirus : pourquoi l’Occident ne comprend pas ce qui a vraiment marché à Wuhan

07.

Le ministre des Finances du lander de Hesse retrouvé mort sur une voie ferré

01.

Saint-Denis, ville ouverte : ouverte au coronavirus !

02.

1050 milliards pour la BCE, 700 milliards de dollars pour le budget américain, 50 milliards d’euros pour le Français… d’où vient tout cet argent ?

03.

Fonctionnaires en déroute... mais que se passe-t-il dans le secteur public ?

04.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

05.

Coronavirus : La Chine tente d’échapper à ses responsabilités en trollant le monde

06.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

01.

Coronavirus : la plus grande crise économique de tous les temps… ou pas. Car les armes existent pour la contrer

02.

Aussi inquiétante que le Covid-19, la crise de la raison ? Gourous et boucs émissaires font leur retour

03.

Chloroquine : les doutes qui pèsent sur la rigueur de l’étude du professeur Raoult expliqués par un biostatisticien

04.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

05.

Lutte contre le Coronavirus : ces failles intellectuelles qui fragilisent la méthode française

06.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

ça vient d'être publié
pépites > Europe
Covid-19
Pour les aider à faire face à l'épidémie, le Portugal régularise tous ses sans-papiers
il y a 3 heures 12 min
pépites > Europe
Allemagne
Le ministre des Finances du lander de Hesse retrouvé mort sur une voie ferré
il y a 7 heures 31 min
décryptage > Santé
Coronavirus

Covid-19 : la stratégie sanitaire française est-elle efficace ? Analyse comparée des résultats par pays

il y a 8 heures 57 min
décryptage > Histoire
Bonnes feuilles

Adrien Loir : une vie à l’ombre de Pasteur

il y a 10 heures 11 min
décryptage > Culture
Atalntico - Litterati

Le chercheur d’art

il y a 10 heures 24 min
décryptage > International
Moyen-Orient

Crise du coronavirus ou pas, la guerre par proxy entre l’Iran et les Etats-Unis continue en Iraq

il y a 10 heures 40 min
décryptage > Politique
Coronavirus

Julien Aubert : « En 1914, l’Union sacrée n’empêchait pas la classe politique de s’opposer sur la manière de mener la guerre »

il y a 11 heures 12 min
pépites > France
Covid-19
Coronavirus : décès de l'ancien ministre Patrick Devedjian
il y a 11 heures 34 min
Régal pour les papilles
Le marché de Rungis va proposer un service de vente en ligne et de livraison suite au confinement
il y a 17 heures 4 min
pépite vidéo > Science
"Star mondiale" de la microbiologie
Hydroxychloroquine : Didier Raoult dévoile une autre étude qui divise à nouveau la communauté scientifique
il y a 22 heures 44 min
pépites > France
Augmentation
L'amende pour non-respect du confinement passe à 200 euros
il y a 6 heures 5 min
pépite vidéo > Politique
Souvenirs
Quand Patrick Devedjian passait une soirée endiablée à l'université d'été des jeunes UMP
il y a 8 heures 26 min
décryptage > Santé
Tribune

Dramatique pénurie de matériel de protection, appel à tous les Français

il y a 9 heures 52 min
décryptage > Politique
Colères jupitériennes

Et maintenant voici Emmanuel la - menace - : « on se souviendra de ceux qui n’auront pas été à la hauteur » !

il y a 10 heures 17 min
décryptage > France
Société

L'administration française, si souvent indifférente à la protection des citoyens

il y a 10 heures 32 min
décryptage > Politique
Coronavirus

Alain Madelin : "Les citoyens ont raison d’exprimer leur défiance pour contraindre les autorités à l’action"

il y a 10 heures 57 min
décryptage > Santé
Mythe et réalité

Crise sanitaire : non le secteur public n’a pas été abandonné ces dernières années. La preuve par les chiffres

il y a 11 heures 29 min
décryptage > Politique
Politique

Covid-19 : Face au feu de la critique, Philippe ajuste le tir, Macron ne change rien

il y a 11 heures 48 min
décryptage > Culture
Atlanti Culture

"Le bon sens" de Michel Bernard : un récit imprégné de la vie de Jeanne d’Arc

il y a 17 heures 27 min
pépite vidéo > Santé
Pédagogie et mobilisation du gouvernement
Coronavirus : retrouvez l’intégralité de la conférence de presse d’Edouard Philippe et d’Olivier Véran
il y a 23 heures 51 min
© Pixabay - Hucky
© Pixabay - Hucky
Apocalypse selon IA

Une étude de la Rand corporation suggère que l’intelligence artificielle pourrait provoquer la fin de l’humanité... aussi tôt qu’en 2040

Publié le 27 avril 2018
Un rapport alerte sur les risques présentés par l'intelligence artificielle et sur le risque d'un conflit nucléaire dans les prochaines décennies.
Corentin Brustlein est responsable du Centre des études de sécurité à l'Ifri et travaille sur la politique de défense des Etats-Unis, les processus d'adaptation et de transformation des armées, les opérations militaires contemporaines, les...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Corentin Brustlein
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Corentin Brustlein est responsable du Centre des études de sécurité à l'Ifri et travaille sur la politique de défense des Etats-Unis, les processus d'adaptation et de transformation des armées, les opérations militaires contemporaines, les...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Un rapport alerte sur les risques présentés par l'intelligence artificielle et sur le risque d'un conflit nucléaire dans les prochaines décennies.

Atlantico : La Rand corporation alerte sur les risques présentés par l'intelligence artificielle pouvant conduire vers un conflit nucléaire dans les prochaines décennies. Que pensez-vous de ce rapport ? Quels sont les véritables risques de l'IA dans le domaine du nucléaire ?

Corentin Brustlein : Le rapport est intéressant car il met le doigt sur plusieurs risques pouvant être causés par le rôle grandissant de l'intelligence artificielle dans les forces armées et les postures militaires, et notamment sur l'impact de ce rôle sur les forces nucléaires. Deux risques spécifiques sont saillants : d'abord, on pense que l'IA va renforcer les capacités de renseignement et de discrimination des armées, ce qui pourrait décupler leur efficacité pour certaines missions jusqu'à présent très complexes telles que les frappes contre les lanceurs mobiles de missiles balistiques. En rendant plus vulnérables des systèmes jusqu'alors considérés comme relativement protégés, qu'ils soient terrestres ou sous-marins, les moyens de renseignement appuyés par l'intelligence artificielle affaibliraient la dissuasion nucléaire en exacerbant les craintes des puissances nucléaires quant à la protection de leur arsenal, et pourraient pousser ces puissances à recourir de manière plus rapide à l'arme nucléaire.

L'autre risque exposé par le rapport concerne l'aide à la décision, qui représente un autre domaine dans lequel l'IA devrait jouer un rôle important à l'avenir. Ici, le risque est moins le scénario fantasmé de systèmes autonomes tout puissants déclenchant le feu nucléaire hors de tout contrôle humain, mais plutôt celui de voir des décisions humaines de plus en plus dépendantes d'intelligences artificielles restant par essence faillibles, et pouvant de surcroît être la cible d'actions hostiles: hacking, manipulation, déception, etc. Cela ne signifie nullement que la guerre nucléaire s'ensuivrait nécessairement, mais cela peut perturber les mécanismes de gestion d'une crise et rendre le processus d'escalade entre deux puissances nucléaires plus imprévisible et encore moins "contrôlable" - bien qu'on puisse douter que ce processus soit aussi "contrôlable" que certains le pensent, par exemple aux Etats-Unis ou en Russie.

On notera enfin que ces risques ne sont que des illustrations de ce que pourrait être l'interaction entre IA et forces nucléaires. On peut en imaginer bien d'autres, mais en définitive leur caractère plus ou moins préoccupant dépendra dans une large mesure des avancées futures dans le domaine de l'IA et des choix doctrinaux et programmatiques qui seront faits par les Etats.

Comment les États peuvent-ils s'adapter et en quoi cela peut modifier leur doctrine de dissuasion nucléaire ?

Il est encore tôt pour le dire, mais il faut garder à l'esprit que l'on parle ici d'évolutions supposées survenir à un horizon de 20 ans et plus. L'IA a beau avoir connu des avancées spectaculaires ces dernières années, il n'est pas garanti qu'elles se poursuivent à un tel rythme à l'avenir. Le rapport est d'ailleurs prudent sur les risques qu'il identifie, et rappelle qu'aucun consensus ne s'est dégagé entre les participants aux séminaires ayant préparé ce rapport.

Ensuite, il existe des moyens de limiter certains des risques évoqués par le rapport, par exemple dans le domaine de l'aide à la décision. Il est certes probable que des IA seront de plus en plus sollicitées dans une fonction d'aide à la décision dans le domaine militaire conventionnel, à l'échelle du champ de bataille. Mais quel serait l'intérêt d'un tel recours à des IA pour des décisions à très haut niveau ? C'est une chose de s'en remettre à l'IA lorsque les paramètres techniques et tactiques sont relativement connus et peu nombreux et que les risques pris sont circonscrits à une zone précise. Je doute que quiconque envisage de s'appuyer sur une IA pour des choix de nature politico-stratégiques, reposant sur des données plus variées et plus complexes. On voit mal ce qui pousserait des décideurs politiques à affaiblir de facto leur autonomie de décision et d'appréciation pour les choix déterminants tels que la gestion d'une crise et l'entrée en guerre, a fortiori dans le domaine du nucléaire, c'est-à-dire dans des circonstances où les intérêts vitaux seraient menacés. Partant de là, le risque posé par une manipulation de l'IA paraît nettement moins grand.

 

Enfin, les puissances nucléaires ne seraient pas non plus démunies face au type d'évolutions pouvant mettre en doute l'invulnérabilité de leurs forces de représailles. L'IA peut s'avérer utile en appui de missions offensives, mais elle peut aussi bien être mise au service de la protection des forces nucléaires. Une IA peut être employée à scruter plus en finesse un théâtre d'opération pour y trouver des unités adverses, mais elle peut aussi être utilisée par le défenseur pour contrer les capacités d'observation ou de frappe adverses - on se souviendra que la recherche de moyens de neutralisation des dispositifs de renseignement américains est depuis longtemps un axe d'effort majeur de la Russie et de la Chine.

Comment les risques de prolifération nucléaire toujours plus importants (Iran, Corée du Nord...) et l'intelligence artificielle, peuvent modifier le paysage nucléaire mondial ?

L'une des conclusions du rapport est que l'introduction de l'IA est porteuse de risque pour la stabilité stratégique. Derrière cette formule, on retrouve l'idée que si les puissances nucléaires craignent pour la capacité de leur arsenal nucléaire à résister à une attaque adverse, elles seront incitées à recourir à l'arme nucléaire plus tôt dans une crise, potentiellement de manière précipitée. Le risque réside ainsi dans le fait que le temps traditionnellement requis pour une résolution pacifique de la crise et pour une "désescalade" diplomatique des tensions pourrait être compressé par des impératifs opérationnels.

Il n'existe à ma connaissance pas d'étude approfondie examinant ce que l'IA pourrait changer dans le domaine de la prolifération nucléaire, c'est-à-dire pour faciliter la tâche d'Etats ou d'acteurs non-étatiques désireux de développer un programme d'armement nucléaire. A priori l'IA ne paraît pas en mesure de révolutionner ce domaine, et de permettre à des candidats à la prolifération de lever les lourdes barrières se dressant sur leur chemin, ayant trait à l'accès aux matières fissiles, à la maîtrise de la physique nucléaire et de l'ingénierie de systèmes complexes, le tout sous le regard d'organisations internationales et d'agences de renseignement.

De manière générale, le paysage nucléaire mondial a été extrêmement résilient face aux ruptures technologiques apparues au cours des 70 dernières années - notamment la numérisation des sociétés. L'impact sur les équilibres stratégiques ou les forces nucléaires n'a pas été nul, mais les changements survenus se sont étalés sur de longues durées, et rien ne permet de penser qu'il en ira différemment dans le domaine de l'IA.

 

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Articles populaires
Période :
24 heures
7 jours
01.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

02.

Béatrice Dalle se marie à nouveau, Katy Perry & Orlando Bloom décalent; Daniel Craig veut tout claquer avant de mourir; Kim Kardashian : sex-exploitée par sa mère ?; Angelina Jolie repart en guerre contre Brad

03.

Et maintenant voici Emmanuel la - menace - : « on se souviendra de ceux qui n’auront pas été à la hauteur » !

04.

Le marché de Rungis va proposer un service de vente en ligne et de livraison suite au confinement

05.

Coronavirus : et voilà ce qui se serait passé si on n’avait rien fait contre l’épidémie

06.

Coronavirus : pourquoi l’Occident ne comprend pas ce qui a vraiment marché à Wuhan

07.

Le ministre des Finances du lander de Hesse retrouvé mort sur une voie ferré

01.

Saint-Denis, ville ouverte : ouverte au coronavirus !

02.

1050 milliards pour la BCE, 700 milliards de dollars pour le budget américain, 50 milliards d’euros pour le Français… d’où vient tout cet argent ?

03.

Fonctionnaires en déroute... mais que se passe-t-il dans le secteur public ?

04.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

05.

Coronavirus : La Chine tente d’échapper à ses responsabilités en trollant le monde

06.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

01.

Coronavirus : la plus grande crise économique de tous les temps… ou pas. Car les armes existent pour la contrer

02.

Aussi inquiétante que le Covid-19, la crise de la raison ? Gourous et boucs émissaires font leur retour

03.

Chloroquine : les doutes qui pèsent sur la rigueur de l’étude du professeur Raoult expliqués par un biostatisticien

04.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

05.

Lutte contre le Coronavirus : ces failles intellectuelles qui fragilisent la méthode française

06.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

Commentaires (4)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
kelenborn
- 28/04/2018 - 20:31
J'accuse
Oui absolument mais ...les lecteurs d'Atlantico sont protégés: entre le bon docteur Gayet qui va exterminer tous les mégots et les fonds de bouteille, et le professeur Jacquet qui va nous expliquer comment il va maîtriser le capitaine Crochet et exterminer tous les ennemis de notre Ben préféré, on n'a rien à craindre ! De toute façon, vu les outils mis à disposition des commentateurs, c'est pas Kim Jun On qui va s'arrêter pour lâcher un pet !
VV1792
- 27/04/2018 - 20:48
L autre danger qui nous
L autre danger qui nous guette n est pas le trop plein d inteligence, mais le developpement exponentiel de la betise. C est plutot cette epidemie qui risque de causer un puree de gros feu de joie...
Pharamond
- 27/04/2018 - 19:09
Un mal?
La fin de l'humanité:est-ce vraiment un mal?