Intelligence artificielle contre le terrorisme : attention aux faux espoirs

Franck DeCloquement : Le Premier Ministre Edouard Philippe a en effet  dernièrement exprimé du siège de la Direction Générale de la Sécurité Intérieure (DGSI), son souhait de tirer partie des expériences malheureuses qu’à eu à subir la France sur son sol, en matière d’attentats terroristes islamistes. Et ceci, afin de consolider et d’augmenter certains acquis de compréhension et d’intelligence en matière de détection amont dans les facteurs de passages à l’acte. Dans le but évident d’en retirer des enseignements opérationnels efficaces et mobilisables à l’avenir. L’objectif poursuivi par cette initiative originale étant de « donner à notre action contre le terrorisme, de nouvelles perspectives », selon les propres mots d’Edouard Philippe. Et plus spécifiquement en matière de connaissance, de détection et de prédiction, si l’on ramasse les propos du Premier Ministre en quelques mots. 

Mais il faut toutefois rappeler que la France part de très loin dans le domaine de l’analyse prédictive. Pour preuve, la polémique née autour de l’adoption sous la précédente mandature par nos services de renseignements, des technologies du géant américain PALANTIR en matière d’algorithmes prédictifs et de traitement de données de masse. Et ceci, faute dit-on de solutions françaises crédibles, hautement performantes dans ce domaine, et immédiatement mobilisables par les autorités... Le sang de certains spécialistes de la contre-ingérence et du contre espionnage n’a fait qu’un tour, tous conscients du problème corrélatif à cette décision en termes de sécurité nationale : fini l’indépendance technologique et la préservation du secret relatif à nos données sensibles. Nos services d’Etat offraient désormais le flanc à de possibles ingérences extérieures, à cette occasion. Américaines en l’occurrence. « Open bar » pérorèrent même en coulisses, certains observateurs blasés par tant de naïveté politique dans la décision. Faut-il encore rappeler que PALANTIR a été cofondé par le milliardaire Peter Thiel, très proche soutient de Donald Trump pendant sa campagne électorale, en lien contractuel direct avec le Pentagone, la CIA et la NSA, dans la menée de programmes militaires conjoints en matière d’IA. 

Dans cette perspective, décision à donc été prise de renforcer les instruments de veille et de suivi de l’Etat sur certaines situations particulièrement sensibles. Ce qui sera particulièrement le cas pour les détenus terroristes, ou les détenus de droit commun radicalisés en fin de peine. Et ceci, afin d’en apprendre davantage et de façon beaucoup plus systématique sur l'ensemble de ces épisodes violents, pour toujours mieux déjouer la menace terroriste et comprendre ses évolutions en lien avec la criminalité organisée et la petite délinquance. Dans cette perspective, les services de l’Etat ont donc vocation à se saisir des opportunités offertes par l’évolution des technologies de la sécurité et de l'intelligence artificielle, tout en inscrivant leur développement et leurs usages, comme l’a rappelé Edouard Philippe, « dans le cadre protecteur des libertés individuelles auquel nous sommes collectivement attachés ». La messe est dite. Mais qu’en est-il des réalités ? 

Comment trouver des informations pertinentes dans un grand ensemble de données disponibles, mais qui apparaissent de prime abord parfaitement chaotiques ànos modernes consciences ? Telle est l’ambition manifeste du pari proposé par Edouard Philippe. Les données massives et de nouvelles méthodes mathématiques, mais aussi la mise en commun des approches et concepts conjoints de plusieurs disciplines, ouvrent de prometteuses perspectives pour la modélisation des conduites socio-comportementales. Et nous touchons ici aux objectifs secrets que se fixent nos politiques, qui espèrent qu’un jour prochain les développements de l’IA permettront de modéliser certains comportements sociaux et faits extrêmes, afin de les anticiper à loisir. À l’image des actes de terrorisme eux-mêmes que l’on espère circonscrire, à travers la génération de modèles de simulation des systèmes complexes toujours plus performants et prompts à intégrer ou simuler leur imprévisibilité. Comme si le monde pouvait être un jour « mathématisable », « calculable », « computable », et vu comme un « grand tissage universelle », une grande trame mise en équation. 

Cette problématique cruciale à l’ère du Big Data, s’éclaire d’un nouveau jour grâce à la recherche d’algorithmes « apprenant » toujours plus efficaces, pour résoudre des problèmes ouverts de mathématiques sociales. En somme, nous parlons ici d’IA. Et les interactions connexes entre statisticiens, physiciens, mathématiciens et probabilistes sont grosses de perspectives fructueuses, compte tenu de la complexité du réel à se laisser « mettre en boîte ». L’avènement des mégas données numériques issues du Web permet désormais aux chercheurs de poser un regard neuf sur les comportements collectifs. Ceux-ci peuvent être vus comme des propriétés émergentes de nos systèmes sociaux, dans une perspective d’approche des systèmes complexes. À l’image de l’évolution des communautés d’internautes sur les réseaux sociaux, qui contribuent dans une certaine mesure à la formation des opinions et des croyances collectives. Nous nous souvenons tous du jeu numérique entré dans la culture populaire « SimCity », crée en son temps par Will Wright, et qui mettait en scène des jeux de gestion globale permettant de créer et de modifier l’écosystème de villes entières, à volonté. Mais ceci, sans que l’on puisse pourtant agir à sa guise dans cette gestion tentaculaire des infrastructures en croissance, comme dans la vie réelle. Tel un véritable maire de commune, aux prises avec tout ce qui fait la richesse et les composantes quotidiennes de la vie urbaine réelle de sa collectivité… Premier jeu vidéo qualifié de « sans fin », et qui a d’ailleurs posé à l’époque de sa création de très nombreux problèmes à ses concepteurs pour le produire. A l’issue, Wright se lance d’ailleurs très vite dans des expérimentations pour améliorer son outil de création de villes initial. Il lui applique notamment diverses théories concernant la planification urbaine, et y implémente aussi diverses idées sorties en droite ligne de ses nombreuses lectures. Et plus particulièrement, celles tirées du travail de Jay Wright Forrester sur la systémique.

Ces jeux de simulation qui ont fait le bonheur de nos adolescences, ont aujourd’hui des prolongements bien réels en 2018. Mais servis cette fois par des outils de calcul et des modèles autrement plus performants, et d’une puissance inégalée dans l’histoire. A l’image du « Modeling Religion Project » récemment évoqué dans les colonnes de The Atlantic. Au départ, les chercheurs en charge de ce étonnant projet ont programmé des agents numériques, afin d’imiter les attributs et les croyances de la population d'un pays réel. Mais en utilisant les données véritables d'enquête de ce pays spécifique. Ils formalisent également le modèle considéré sur un ensemble de règles de sciences sociales validées empiriquement, sur la façon dont les individus considérés ont tendance à interagir entre eux quand ils sont soumis à diverses formes de pressions. Puis ils expérimentent alors les variables considérées, en fonction de l’arrivée inopinée de milliers de personnes supplémentaires dans cet écosystème homothétique à la réalité de référence. Et ceci, afin de percevoir comment cette société artificielle d’individus numériques « expérimentaux » change, compte tenu de la pression générée par l’introduction de ces nouveaux paramètres entrants.

Ce projet de modélisation de la religion qui bénéficie de la présence de collaborateurs du « Centre for Mind and Culture » de Boston, et du « Centre de Modélisation, d'Analyse et de Simulation de Virginie », ainsi que de l'Université d'Agder en Norvège, fonctionne lui depuis trois ans. Et avec le financement de la « John Templeton Fondation ». Cette expérimentation s'est terminé le mois dernier, mais a déjà donné naissance à plusieurs projets dérivés. D’autres initiatives existent également en la matière, comme le MODRN – pour « Modeling Religion in Norway » – qui n’en est encore qu’à ses balbutiements. Dans tous les cas considérés, le but poursuivi est de donner aux politiques un outil empirique qui les aidera à évaluer des options politiques concurrentes, afin qu'ils puissent choisir la plus efficace d‘entre elles, parmi celles qui se présentent. Bien que noble à la base, si les dirigeants ainsi renseignés par des initiatives à valeurs scientifiques peuvent utiliser l'intelligence artificielle pour prédire quelle politique produira le meilleur résultat en matière d’intégration de migrants – comme dans les cas cités ci-dessus – et cela afin de garantir que nous puissions peut-être nous retrouver dans un monde plus sain et plus heureux, a contrario cette idée peut très vite devenir dangereuse dès lors qu’elle se pare d’intérêts normatifs inverses. Dirigé par LeRon Shults, professeur de philosophie et de théologie à l'Université d'Agder en Norvège, ce projet est principalement financé par le Conseil norvégien de la recherche, qui compte sur les performances de ce modèle numérique expérimental pour délivrer des conseils utiles sur la meilleure façon pour le gouvernement norvégien d'intégrer les réfugiés. La Norvège est apparue comme l’endroit idéal pour mener ce type de recherche. Non seulement parce qu'elle lutte actuellement pour l'intégration des Syriens dans le pays, mais aussi parce que le pays a rassemblé des données massives sur sa propre population. En les utilisant pour calibrer son modèle, LeRon Shults vise à obtenir des prédictions très précises, en capacité de simuler ce qui va se passer dans une ville spécifique du pays, et même dans un quartier donné. On le voit, l’homothétie avec le réel est vivement recherchée, mais rien ne garantit pour autant que cela puisse toujours être le cas. C’est aussi, l’une des limites de l’exercice. 

L’équipe, du professeur de philosophie et de théologie à l'Université d'Agder, LeRon Shults, en Norvège, a abordé ces questions comme le rapporte The Atlanic en utilisant les données du programme d’enquêtes sociales internationales menées entre 1991 et 1998. Ils ont initialisé le modèle en 1998 et lui ont permis de se poursuivre jusqu'en 2008. « Nous avons pu prédire à partir de 1998 différents pays d'Europe et du Japon - et si et comment la croyance au paradis et à l'enfer, la croyance en Dieu et l'assiduité religieuse augmenteraient et diminueraient sur une période de 10 ans. Nous avons pu prédire cela dans certains cas jusqu'à trois fois plus précisément que l'analyse de régression linéaire », a déclaré LeRon Shults cité dans the Atlantic, se référant ici à une méthode de prédiction polyvalente qui, avant le travail de l'équipe, était la meilleure alternative scientifique reconnue. En utilisant un modèle séparé, « Future of Religion et Secular Transitions », l'équipe de chercheurs a constaté que les gens ont tendance à se séculariser lorsque quatre facteurs sont présents : la sécurité existentielle (vous avez assez d'argent et de nourriture pour vivre correctement), la liberté personnelle (de croire ou non), le pluralisme (vous avez une attitude accueillante envers la diversité), et l'éducation (vous avez une formation en sciences fondamentales et en sciences humaines). Si l’un de ces quatre facteurs est absent, l’ensemble du processus de sécularisation s’en trouve ralentit. Selon eux, c'est la raison pour laquelle les États-Unis se sécularisent moins vite que l'Europe occidentale, et l’Europe du nord.

Un autre projet, « Mutual Escalating Religious Violence » ou « MERV », vise à identifier les conditions qui font que l’anxiété xénophobe entre deux groupes religieux différents risques de déraper. En construisant ce modèle, l’équipe a fait appel à l’expert Monica Toft. Elle est une spécialiste reconnue des relations internationales, sans pour autant être expérimentée en modélisation informatique, mais avec une en revanche une vaste expertise dans l’extrémisme religieux. MERV montre qu’il est plus probable que la violence s’aggrave mutuellement s’il existe une faible disparité de taille entre les groupes majoritaire et minoritaire (moins de 70/30), et si les agents sont considérés comme des menaces sociales et de contagion. Il y a beaucoup moins de chances que cela se produise s'il y a une grande disparité de taille, ou si les menaces rencontrées par les agents considérés sont principalement liées aux prédateurs ou aux dangers naturels. Cela peut sembler intuitif, mais le fait de disposer de données empiriques quantitatives pour appuyer les hypothèses des sciences sociales peut aider à convaincre les décideurs politiques du moment et de la manière d’agir. S’ils désir prévenir de futures flambées de violence par exemple. Et une fois qu'un modèle a été montré pour suivre des exemples historiques réels, les scientifiques peuvent argumenter de manière plus plausible qu'il produira une recommandation fiable, quand il alimente de nouvelles situations. Interrogée sur ce que MERV aurait à nous offrir, Monica Toft a déclaré : « Nous pouvons arrêter ces dynamiques. Nous n'avons pas besoin de leur permettre de déraper. » Pourtant, Wildman est pessimiste quant à sa propre capacité à intéresser les politiciens à une méthodologie aussi nouvelle et hautement technique.

Lorsque vous créez un modèle, vous pouvez accidentellement produire des recommandations que vous ne souhaitiez pas. Il y a des années, Wildman a construit un modèle pour comprendre ce qui fait que certains groupes extrémistes survivent et prospèrent alors que d'autres se désintègrent. Il s'est avéré que l'un des facteurs les plus importants était un leader hautement charismatique qui pratique personnellement ce qu'il prêche. « Cela impliquait immédiatement un critère d'assassinat », a-t-il déclaré. « En gros, laisser les groupes seuls quand les leaders sont moins cohérents, mais tuer les leaders des groupes qui ont ces qualités spécifiques. Ce fut un choc de découvrir cette disparition du modèle. Je me sens profondément mal à l'aise qu'un de mes modèles ait accidentellement produit un critère pour tuer des chefs religieux. » Les résultats de ce modèle ont été publiés, de sorte qu’il pourrait déjà avoir une action militaire éclairée. « Est-ce que ce genre de chose est utilisé pour déterminer les critères pour les meurtres de drones ? Je ne sais pas, car il y a ce mur géant entre la recherche secrète aux États-Unis et le côté non secret », a déclaré M. Wildman. « J'en suis venu à supposer que du côté des de la recherche secrète, ils ont déjà beaucoup pensé à tout ce à quoi nous avons pensé, car ils ont plus d'argent et sont plus concentrés sur ces questions. Mais il se peut que ce modèle les ait réellement emmenés là-bas. C'est une énigme éthique grave. »

Selon Neil Johnson cité par The Atlantic, un physicien qui modélise le terrorisme et d’autres comportements extrêmes dans des systèmes complexes, « c’est une exagération de la puissance des modèles». Arrêter la sécularisation, a-t-il dit. C'est peut-être exact dans le modèle, mais « c'est une bande dessinée du monde réel ». Une société humaine réelle est tellement complexe que « toutes les choses peuvent être interconnectées d'une manière différente que dans le modèle ». On le voit, de la simulation à la réalité, la transition parfaite est encore en devenir.