Atlantico, c'est qui? c'est quoi ?
Vendredi 17 Août 2018 | Créer un compte | Connexion
Extra

Une étude de la Rand corporation suggère que l’intelligence artificielle pourrait provoquer la fin de l’humanité... aussi tôt qu’en 2040

Un rapport alerte sur les risques présentés par l'intelligence artificielle et sur le risque d'un conflit nucléaire dans les prochaines décennies.

Apocalypse selon IA

Publié le
Une étude de la Rand corporation suggère que l’intelligence artificielle pourrait provoquer la fin de l’humanité... aussi tôt qu’en 2040

 Crédit Pixabay - Hucky

Atlantico : La Rand corporation alerte sur les risques présentés par l'intelligence artificielle pouvant conduire vers un conflit nucléaire dans les prochaines décennies. Que pensez-vous de ce rapport ? Quels sont les véritables risques de l'IA dans le domaine du nucléaire ?

Corentin Brustlein : Le rapport est intéressant car il met le doigt sur plusieurs risques pouvant être causés par le rôle grandissant de l'intelligence artificielle dans les forces armées et les postures militaires, et notamment sur l'impact de ce rôle sur les forces nucléaires. Deux risques spécifiques sont saillants : d'abord, on pense que l'IA va renforcer les capacités de renseignement et de discrimination des armées, ce qui pourrait décupler leur efficacité pour certaines missions jusqu'à présent très complexes telles que les frappes contre les lanceurs mobiles de missiles balistiques.

En rendant plus vulnérables des systèmes jusqu'alors considérés comme relativement protégés, qu'ils soient terrestres ou sous-marins, les moyens de renseignement appuyés par l'intelligence artificielle affaibliraient la dissuasion nucléaire en exacerbant les craintes des puissances nucléaires quant à la protection de leur arsenal, et pourraient pousser ces puissances à recourir de manière plus rapide à l'arme nucléaire.

L'autre risque exposé par le rapport concerne l'aide à la décision, qui représente un autre domaine dans lequel l'IA devrait jouer un rôle important à l'avenir. Ici, le risque est moins le scénario fantasmé de systèmes autonomes tout puissants déclenchant le feu nucléaire hors de tout contrôle humain, mais plutôt celui de voir des décisions humaines de plus en plus dépendantes d'intelligences artificielles restant par essence faillibles, et pouvant de surcroît être la cible d'actions hostiles: hacking, manipulation, déception, etc. Cela ne signifie nullement que la guerre nucléaire s'ensuivrait nécessairement, mais cela peut perturber les mécanismes de gestion d'une crise et rendre le processus d'escalade entre deux puissances nucléaires plus imprévisible et encore moins "contrôlable" - bien qu'on puisse douter que ce processus soit aussi "contrôlable" que certains le pensent, par exemple aux Etats-Unis ou en Russie.

On notera enfin que ces risques ne sont que des illustrations de ce que pourrait être l'interaction entre IA et forces nucléaires. On peut en imaginer bien d'autres, mais en définitive leur caractère plus ou moins préoccupant dépendra dans une large mesure des avancées futures dans le domaine de l'IA et des choix doctrinaux et programmatiques qui seront faits par les Etats.

Comment les États peuvent-ils s'adapter et en quoi cela peut modifier leur doctrine de dissuasion nucléaire ?

Il est encore tôt pour le dire, mais il faut garder à l'esprit que l'on parle ici d'évolutions supposées survenir à un horizon de 20 ans et plus. L'IA a beau avoir connu des avancées spectaculaires ces dernières années, il n'est pas garanti qu'elles se poursuivent à un tel rythme à l'avenir. Le rapport est d'ailleurs prudent sur les risques qu'il identifie, et rappelle qu'aucun consensus ne s'est dégagé entre les participants aux séminaires ayant préparé ce rapport.

 
Commentaires

Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.

  • Par J'accuse - 27/04/2018 - 10:57 - Signaler un abus Just another fake news

    Il faut bien qu'ils s'occupent, ces gens-là, et fassent parler d'eux. L'apocalypse nous est annoncée depuis des millénaires, et nous sommes toujours là. Les colères divines, la peste, les extraterrestres, la guerre nucléaire, le sida, le CO2, l'IA: tout est bon pour effrayer le peuple en lui "révélant" que la fin du monde est proche.

  • Par Pharamond - 27/04/2018 - 19:09 - Signaler un abus Un mal?

    La fin de l'humanité:est-ce vraiment un mal?

  • Par VV1792 - 27/04/2018 - 20:48 - Signaler un abus L autre danger qui nous

    L autre danger qui nous guette n est pas le trop plein d inteligence, mais le developpement exponentiel de la betise. C est plutot cette epidemie qui risque de causer un puree de gros feu de joie...

  • Par kelenborn - 28/04/2018 - 20:31 - Signaler un abus J'accuse

    Oui absolument mais ...les lecteurs d'Atlantico sont protégés: entre le bon docteur Gayet qui va exterminer tous les mégots et les fonds de bouteille, et le professeur Jacquet qui va nous expliquer comment il va maîtriser le capitaine Crochet et exterminer tous les ennemis de notre Ben préféré, on n'a rien à craindre ! De toute façon, vu les outils mis à disposition des commentateurs, c'est pas Kim Jun On qui va s'arrêter pour lâcher un pet !

Pour commenter :

Depuis son lancement Atlantico avait fait le choix de laisser ouvert à tous la possibilité de commenter ses articles avec un système de modération a posteriori. Sous couvert d'anonymat, une minorité d'internautes a trop souvent détourné l’esprit constructif et respectueux de cet espace d’échanges. Suite aux nombreuses remarques de nos lecteurs, nous avons décidé de réserver les commentaires à notre communauté d’abonnés.

Corentin Brustlein

Corentin Brustlein est responsable du Centre des études de sécurité à l'Ifri et travaille sur la politique de défense des Etats-Unis, les processus d'adaptation et de transformation des armées, les opérations militaires contemporaines, les postures nucléaires et les défenses antimissiles.

Voir la bio en entier

Je m'abonne
à partir de 4,90€