En direct
Best of
Best of du 12 au 18 janvier
En direct
© Pixabay - Hucky
Apocalypse selon IA
Une étude de la Rand corporation suggère que l’intelligence artificielle pourrait provoquer la fin de l’humanité... aussi tôt qu’en 2040
Publié le 27 avril 2018
Un rapport alerte sur les risques présentés par l'intelligence artificielle et sur le risque d'un conflit nucléaire dans les prochaines décennies.
Corentin Brustlein est responsable du Centre des études de sécurité à l'Ifri et travaille sur la politique de défense des Etats-Unis, les processus d'adaptation et de transformation des armées, les opérations militaires contemporaines, les...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Corentin Brustlein
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Corentin Brustlein est responsable du Centre des études de sécurité à l'Ifri et travaille sur la politique de défense des Etats-Unis, les processus d'adaptation et de transformation des armées, les opérations militaires contemporaines, les...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Un rapport alerte sur les risques présentés par l'intelligence artificielle et sur le risque d'un conflit nucléaire dans les prochaines décennies.

Atlantico : La Rand corporation alerte sur les risques présentés par l'intelligence artificielle pouvant conduire vers un conflit nucléaire dans les prochaines décennies. Que pensez-vous de ce rapport ? Quels sont les véritables risques de l'IA dans le domaine du nucléaire ?

Corentin Brustlein : Le rapport est intéressant car il met le doigt sur plusieurs risques pouvant être causés par le rôle grandissant de l'intelligence artificielle dans les forces armées et les postures militaires, et notamment sur l'impact de ce rôle sur les forces nucléaires. Deux risques spécifiques sont saillants : d'abord, on pense que l'IA va renforcer les capacités de renseignement et de discrimination des armées, ce qui pourrait décupler leur efficacité pour certaines missions jusqu'à présent très complexes telles que les frappes contre les lanceurs mobiles de missiles balistiques. En rendant plus vulnérables des systèmes jusqu'alors considérés comme relativement protégés, qu'ils soient terrestres ou sous-marins, les moyens de renseignement appuyés par l'intelligence artificielle affaibliraient la dissuasion nucléaire en exacerbant les craintes des puissances nucléaires quant à la protection de leur arsenal, et pourraient pousser ces puissances à recourir de manière plus rapide à l'arme nucléaire.

L'autre risque exposé par le rapport concerne l'aide à la décision, qui représente un autre domaine dans lequel l'IA devrait jouer un rôle important à l'avenir. Ici, le risque est moins le scénario fantasmé de systèmes autonomes tout puissants déclenchant le feu nucléaire hors de tout contrôle humain, mais plutôt celui de voir des décisions humaines de plus en plus dépendantes d'intelligences artificielles restant par essence faillibles, et pouvant de surcroît être la cible d'actions hostiles: hacking, manipulation, déception, etc. Cela ne signifie nullement que la guerre nucléaire s'ensuivrait nécessairement, mais cela peut perturber les mécanismes de gestion d'une crise et rendre le processus d'escalade entre deux puissances nucléaires plus imprévisible et encore moins "contrôlable" - bien qu'on puisse douter que ce processus soit aussi "contrôlable" que certains le pensent, par exemple aux Etats-Unis ou en Russie.

On notera enfin que ces risques ne sont que des illustrations de ce que pourrait être l'interaction entre IA et forces nucléaires. On peut en imaginer bien d'autres, mais en définitive leur caractère plus ou moins préoccupant dépendra dans une large mesure des avancées futures dans le domaine de l'IA et des choix doctrinaux et programmatiques qui seront faits par les Etats.

Comment les États peuvent-ils s'adapter et en quoi cela peut modifier leur doctrine de dissuasion nucléaire ?

Il est encore tôt pour le dire, mais il faut garder à l'esprit que l'on parle ici d'évolutions supposées survenir à un horizon de 20 ans et plus. L'IA a beau avoir connu des avancées spectaculaires ces dernières années, il n'est pas garanti qu'elles se poursuivent à un tel rythme à l'avenir. Le rapport est d'ailleurs prudent sur les risques qu'il identifie, et rappelle qu'aucun consensus ne s'est dégagé entre les participants aux séminaires ayant préparé ce rapport.

Ensuite, il existe des moyens de limiter certains des risques évoqués par le rapport, par exemple dans le domaine de l'aide à la décision. Il est certes probable que des IA seront de plus en plus sollicitées dans une fonction d'aide à la décision dans le domaine militaire conventionnel, à l'échelle du champ de bataille. Mais quel serait l'intérêt d'un tel recours à des IA pour des décisions à très haut niveau ? C'est une chose de s'en remettre à l'IA lorsque les paramètres techniques et tactiques sont relativement connus et peu nombreux et que les risques pris sont circonscrits à une zone précise. Je doute que quiconque envisage de s'appuyer sur une IA pour des choix de nature politico-stratégiques, reposant sur des données plus variées et plus complexes. On voit mal ce qui pousserait des décideurs politiques à affaiblir de facto leur autonomie de décision et d'appréciation pour les choix déterminants tels que la gestion d'une crise et l'entrée en guerre, a fortiori dans le domaine du nucléaire, c'est-à-dire dans des circonstances où les intérêts vitaux seraient menacés. Partant de là, le risque posé par une manipulation de l'IA paraît nettement moins grand.

 

Enfin, les puissances nucléaires ne seraient pas non plus démunies face au type d'évolutions pouvant mettre en doute l'invulnérabilité de leurs forces de représailles. L'IA peut s'avérer utile en appui de missions offensives, mais elle peut aussi bien être mise au service de la protection des forces nucléaires. Une IA peut être employée à scruter plus en finesse un théâtre d'opération pour y trouver des unités adverses, mais elle peut aussi être utilisée par le défenseur pour contrer les capacités d'observation ou de frappe adverses - on se souviendra que la recherche de moyens de neutralisation des dispositifs de renseignement américains est depuis longtemps un axe d'effort majeur de la Russie et de la Chine.

Comment les risques de prolifération nucléaire toujours plus importants (Iran, Corée du Nord...) et l'intelligence artificielle, peuvent modifier le paysage nucléaire mondial ?

L'une des conclusions du rapport est que l'introduction de l'IA est porteuse de risque pour la stabilité stratégique. Derrière cette formule, on retrouve l'idée que si les puissances nucléaires craignent pour la capacité de leur arsenal nucléaire à résister à une attaque adverse, elles seront incitées à recourir à l'arme nucléaire plus tôt dans une crise, potentiellement de manière précipitée. Le risque réside ainsi dans le fait que le temps traditionnellement requis pour une résolution pacifique de la crise et pour une "désescalade" diplomatique des tensions pourrait être compressé par des impératifs opérationnels.

Il n'existe à ma connaissance pas d'étude approfondie examinant ce que l'IA pourrait changer dans le domaine de la prolifération nucléaire, c'est-à-dire pour faciliter la tâche d'Etats ou d'acteurs non-étatiques désireux de développer un programme d'armement nucléaire. A priori l'IA ne paraît pas en mesure de révolutionner ce domaine, et de permettre à des candidats à la prolifération de lever les lourdes barrières se dressant sur leur chemin, ayant trait à l'accès aux matières fissiles, à la maîtrise de la physique nucléaire et de l'ingénierie de systèmes complexes, le tout sous le regard d'organisations internationales et d'agences de renseignement.

De manière générale, le paysage nucléaire mondial a été extrêmement résilient face aux ruptures technologiques apparues au cours des 70 dernières années - notamment la numérisation des sociétés. L'impact sur les équilibres stratégiques ou les forces nucléaires n'a pas été nul, mais les changements survenus se sont étalés sur de longues durées, et rien ne permet de penser qu'il en ira différemment dans le domaine de l'IA.

 

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Articles populaires
Période :
24 heures
7 jours
01.
Emmanuel Macron est brillant, mais il n’est pas le président qu’il faut à la France
02.
Radioscopie des dépenses de la France : ces nouvelles inégalités qui se cachent derrière la puissance apparente de l'État-providence
03.
Connaissez vous Marie Kondo (la Japonaise qui a déclenché une folie du rangement dans le monde qui ne devrait pas tarder à atteindre la France) ?
04.
Et si le Rassemblement National était en train de faire un bien mauvais coup à l’euro en renonçant à exiger que nous en sortions ?
05.
Réponse à tout… sauf aux Gilets jaunes ? Pourquoi l’intelligence de Macron participe plus du problème que de la solution à la crise de défiance qui ébranle la société française
06.
Iran, pourquoi la menace d’une intervention militaire brandie par John Bolton pourrait marcher
07.
Gérard Larcher, l'Homme qui tient tête à Emmanuel Macron et ...à Laurent Wauquiez
01.
Patrick Bruel aime une nouvelle femme de (bien) moins de 50 ans; Vincent Cassel : entre sa (très) jeune épouse & sa fille aînée, c’est tendu; Sophie Marceau s’occupe de son fils, René-Charles Angélil-Dion de ses frères, Anouchka Delon de toute la famille
02.
Ce sondage dévastateur qui fait le procès de Macron le condamne sans appel
03.
Le Royaume-Uni se prépare à un Brexit sans accord et ne voit plus comment arrêter cette chronique d’un chaos annoncé
04.
Wauquiez pousse une colère contre la direction de LR, et Thierry Mariani contre Wauquiez ; L'Obs s'inquiète de la crise financière qui vient ; François-Xavier Bellamy en guerre contre le progressisme ; Ces députés LREM attaqués
05.
Littéralement explosif : le sondage exclusif qui montre que la condamnation de la violence par les Français... baisse (et que le nombre de ceux qui disent la comprendre augmente)
06.
Inégalités : la France est allée au maximum de ce que la redistribution fiscale permettait. Voilà ce qui pourrait être fait désormais
07.
Robots payeurs : mais que s’est-il vraiment passé sur la cagnotte de soutien aux policiers ?
01.
Ce sondage dévastateur qui fait le procès de Macron le condamne sans appel
02.
Gilets jaunes : un syndicat policier s’émeut des ordres de répression et du comptage des manifestants
03.
Patrick Bruel aime une nouvelle femme de (bien) moins de 50 ans; Vincent Cassel : entre sa (très) jeune épouse & sa fille aînée, c’est tendu; Sophie Marceau s’occupe de son fils, René-Charles Angélil-Dion de ses frères, Anouchka Delon de toute la famille
04.
Réponse à tout… sauf aux Gilets jaunes ? Pourquoi l’intelligence de Macron participe plus du problème que de la solution à la crise de défiance qui ébranle la société française
05.
Ce à quoi se condamnent lentement mais sûrement les Gilets jaunes
06.
Sévère répression des gilets jaunes : la justice française est-elle en train de préfèrer l’ordre à la justice ?
01.
Grand débat national : l’équation impossible d’Emmanuel Macron
02.
Réponse à tout… sauf aux Gilets jaunes ? Pourquoi l’intelligence de Macron participe plus du problème que de la solution à la crise de défiance qui ébranle la société française
03.
Pourquoi Macron, les populistes et les gilets jaunes sont tous le produit de la même vague (et pourquoi ils seraient bien inspirés de le comprendre réciproquement)
04.
Ce sondage dévastateur qui fait le procès de Macron le condamne sans appel
05.
Radioscopie des dépenses de la France : ces nouvelles inégalités qui se cachent derrière la puissance apparente de l'État-providence
06.
Si la France vit un moment révolutionnaire (et voilà pourquoi c’en est bien un), quelle stratégie politique pour éviter le chaos et en sortir par le haut ?
Commentaires (4)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
kelenborn
- 28/04/2018 - 20:31
J'accuse
Oui absolument mais ...les lecteurs d'Atlantico sont protégés: entre le bon docteur Gayet qui va exterminer tous les mégots et les fonds de bouteille, et le professeur Jacquet qui va nous expliquer comment il va maîtriser le capitaine Crochet et exterminer tous les ennemis de notre Ben préféré, on n'a rien à craindre ! De toute façon, vu les outils mis à disposition des commentateurs, c'est pas Kim Jun On qui va s'arrêter pour lâcher un pet !
VV1792
- 27/04/2018 - 20:48
L autre danger qui nous
L autre danger qui nous guette n est pas le trop plein d inteligence, mais le developpement exponentiel de la betise. C est plutot cette epidemie qui risque de causer un puree de gros feu de joie...
Pharamond
- 27/04/2018 - 19:09
Un mal?
La fin de l'humanité:est-ce vraiment un mal?