Dérapages en vue ? Les inquiétants contrats signés par les géants Google et Palantir avec les militaires américains

C’est une semaine faste en révélations qu’ont pu suivre les lecteurs outre-Atlantique dans les médias d’actualité, puisque certains supports de presse engagés ont divulgué l’étroite collaboration qu’entretenaient en réalité les deux géants de la Tech américaines, Google et Palantir technologie, avec le Département de la Défense.

Avec en arrière-plan, la divulgation d’accords discrets concernant la mise à disposition de leurs technologies d’Intelligence Artificielle (IA) en matière d'apprentissage automatique, au service des militaires duPentagone. Une réalité bien connue en interne, qui avait tôt fait de provoquer une gêne palpable dans les rangs des collaborateurs de la firme de Mountain View, bien conscients des conséquences éthiques que pouvaient corrélativement sous-entendre la réification de tels accords. Au point qu’une certaine forme de résistance inquiète a permis d’en connaitre un peu plus sur les visées réelles poursuivies à travers ces programmes conjoints. Occasionnant des fuites à destination des oreilles indiscrètes des journalistes d’investigation américains, organisées par des employés particulièrement indignés. Les vulnérabilités humaines sont légion, même au sein des organisations managériales les plus verrouillées… Et tout fini par ce savoir un jour ou l’autre. Preuve une fois de plus à l’appui. Le site d’actualité Gizmodo.com indique même à ce propos que de très nombreux membres du personnel salariés par le géant de la recherche n’avaient appris l’effectivité de cette collaboration, moins d’une semaine avant les révélations, via la diffusion de courriels internes à l’entreprise.  

Qu’apprend-on concrètement, en marge de l’émoi général suscité par ces révélations ?

« Google à tranquillement obtenu un contrat pour travailler sur la nouvelle initiative de guerre algorithmique du Département de la Défense (DOD), fournissant une assistance avec un projet pilote pour appliquer ses solutions d'intelligence artificielle au ciblage de drones »… C’est par ces mots laconiques que Lee Fang révélait toute affaire mardi dernier, dans les colonnes The Intercept. Et c’est un véritable coup de tonnerre qui a soudain saisi l’opinion publique américaine et le landernau de la Tech californienne, à l’issue de ces premières divulgations. Car cela n’avait jamais fuité jusqu’à présent, et pour cause : le contrat liant Google et les militaires américains sur le projet « Maven », était en réalité porté par la société de technologie ECS Federal, basée en Virginie du Nord, comme le révèle l’article des deux journalistes Kate Conger et Dell Cameron dans sur Gizmodo.com. Le tout ayant évidemment vocation à soustraire cette relation contractuelle discutable aux yeux des curieux, pour mieux noyer le poisson comme chacun pourra aisément le comprendre.

Quand Google fournit son assistance experte aux militaires du Pentagone dans le cadre du projet « Maven ».

De quoi s’agit-il au juste ? Le Wall Street Journal avait déjà indiqué dans ses colonnes en mars 2017, sous la plume de Julian E. Barnes et Josh Chin, que la première mission du projet Maven était plutôt d'aider le Pentagone à traiter efficacement les innombrables séquences vidéo collectées quotidiennement par le bon millier de drones aériens engagés sur les zones d’opérations. L’équipe en charge du développement visait à produire une technologie « d'apprentissage en profondeur », en capacité d’aider les analystes de drones à interpréter le flot continuel de données visuelles aspirées par la flotte d’appareils militaires américains en action. La course à l'adoption ce cette nouvelle technologie d'IA avait été annoncée par le secrétaire adjoint à la Défense d’alors, Robert Work, qui a dévoilé en avril 2017 un plan ambitieux appelé « Algorithmic Warfare Cross-Functional Team », connu sous le nom de  « Project Maven ». Cette initiative qu’à parfaitement décrit Robert Work était conçue pour « accélérer l'intégration du Big Data et de l'apprentissage automatique » et à « transformer l'énorme volume de données disponibles pour le DoD, en informations exploitables et éclairées » pour soulager les analyses. Mais aussi à automatiser l'identification et la classification des images prises par les drones - voitures, bâtiments, personnes - permettant ainsi aux analystes de prendre des décisions plus éclairées sur le champ de bataille.

Bien que le Département de la Défense (DOD) ait investi des ressources considérables  dans le développement des technologies de détection avancée pour recueillir des informations lors des vols de drones, il aurait pourtant tardé à créer des outils de traitement efficace pour passer en revue automatiquement ces monceaux de données enregistrées, et les mettre à profit. Le développement d’une IA performante dans le futur ne pourrait aboutir qu’à cette condition préalable d’intégration massive des données selon les spécialistes. Au total, le département de la Défense aurait dépensé 7,4 milliards de dollars en 2017 dans des domaines dédiés au traitement automatique des données vidéo collectées. Un budget astronomique à mettre corrélation avec la quantité gigantesque d'images recueillies, qu’il est humainement impossible de suivre selon l’expert Greg C. Allen, associé au « Center for A New American Security in Technology and National Security Program ». Allen est par ailleurs coauteur avec Taniel Chan d’un épais rapport datant de juillet 2017 sur l'utilisation de l'intelligence artificielle au bénéfice de la Sécurité Nationale par les militaires. Le tout, sous l’égide du Dr. Jason Matheny, Directeur de « L’Intelligence Advanced Research Projects Activity » (IARPA) basée dans le Maryland.

« AI  first » dans l’analyse les images de drones.

« Avant l’avènement du programme Maven, personne au département de la Défense n'avait la moindre idée de la manière d’acheter, d’aligner ou de mettre en œuvre correctement l'IA », écrit Greg C. Allen. Le projetMaven a été en somme chargé d'utiliser le développement de l’apprentissage automatique des séquences filmées pour identifier et discriminer correctement les véhicules, et bien d’autres objets capturés, dans les flux d’images continues recueillies par les drones. Et cela aurait l’avantage d’en soustraire la charge considérable aux analystes de la Défense qui pourraient être mieux occupés ailleurs. L'objectif initial de Maven selon le Pentagone, étant de fournir in fine à l'armée une « vision informatique avancée », permettant la détection précise et l'identification automatique sur pas moins de 38 catégories d’objets capturées par la caméra en mouvement d'un drone. Maven devant permettre les services de la Défense de suivre les individus qui « vont et viennent », ou partent de différents endroits pour se rendre ailleurs. L'intelligence artificielle est déjà déployée dans les applications policières et de maintien de l'ordre. Mais les chercheurs préviennent cependant que ces systèmes peuvent être biaisés de manière très difficile à détecter. Par exemple, ProPublica a rapporté en 2016 qu'un algorithme utilisé pour prédire la probabilité de récidive parmi les détenus,  présentait systématiquement des préjugés raciaux. Question de programmation diront certain ?

De l’impératif de développer un apprentissage automatique selon Eric Schmidt face à la montée en puissance de la Chine.  

C’est à l’automne 2017, et à l’occasion de sa participation pour une conférence désormais visible sur le site du CNAS (Center for a New American Security Artificial Intelligence and Global Security Summit), qu’Eric Schmidt (le président exécutif d'Alphabet - la maison mère de Google - et par ailleurs Président du Conseil consultatif sur l'innovation de la Défense), avait en substance résumé un peu navré, l’état d’esprit que nourrissaient les acteurs de l'industrie de la haute technologie à propos que leurs collaborations respectives avec le Pentagone : « Il règne comme une inquiétude générale dans la communauté de la technologie sur la manière dont le complexe militaro-industriel utilise ses outils pour tuer les gens de façon incorrecte ». Exposant sans langue de bois, le problème éthique soulevé quant à la bonne ‘discrimination’ des cibles choisies, et celui de leur ‘traitement légitime’ par les équipages de drones armés. De mauvais ciblages qui auraient tôt fait d’éveiller inquiétude et mauvaise conscience dans les propres rangs du géant américain.

Alors même que la firme californienne a toujours affirmé que son implication dans le projet Maven  (également connu sous l’acronyme « AWCFT » pour « équipe inter-fonctionnelle de guerre algorithmique » en français, créé en avril 2017 sous l’égide du général de l’Air Force Jack Shanahan, par ailleurs directeur des renseignements de la défense), n'était pas directement lié à un engagement dans les actions offensives. Contredisant sur ce point les employés de Google par ailleurs discrètement contactés par les médias, qui auraient indiqué que la société offrait bien de telles ressources à l'armée américaine au profit de sa technologie de surveillance impliquée dans les opérations de drones.

Les déclarations du porte-parole de Google visent à désamorcer les critiques dans un climat délétère et particulièrement suspicieux.

Dans une communication qui a été depuis été transmise à la presse d’actualité américaine, Google y explique « travailler depuis longtemps avec les agences gouvernementales pour fournir des solutions technologiques. Ce projet spécifique est un projet pilote avec le ministère de la Défense, visant à fournir des API TensorFlow open source, qui peuvent aider à la reconnaissance d'objets sur des données non classifiées », a déclaré le porte-parole de la firme. Rien de plus normal au demeurant, puisque le géant de Mountain View est à la pointe de la recherche en matière d’intelligence artificielle. Et notamment dans le secteur de l’apprentissage automatique et de la vision par ordinateur. Des compétences très utiles au demeurant pour le projet Maven. Bien que l'implication de Google ait suscité de vives inquiétudes et controverses parmi ses employés, il est possible que les offres de produits de Google limitent en réalité son accès aux données gouvernementales sensibles. Alors que dans le même temps, ses concurrents dans le Cloud (Amazon et Microsoft Azure), proposent eux des produits Cloud orientés vers le gouvernement, et conçus pour contenir des informations classées secrètes. Google ne propose actuellement pas d'offre officielle de produits similaires.

Un porte-parole de Google a déclaré à Gizmodo qu'il fournissait au département de la Défense des API TensorFlow, utilisées dans les applications d'apprentissage automatique, pour aider les analystes militaires à détecter les objets contenus dans les images. Reconnaissant la nature controversée de l'utilisation de l'apprentissage automatique à des fins militaires, le porte-parole a aussi déclaré que l'entreprise travaillait actuellement : « à développer des politiques et des sauvegardes […] La technologie signale des images pour l'examen humain, et pour des utilisations non offensives seulement. L'utilisation militaire de l'apprentissage automatique soulève naturellement des préoccupations valables. Nous discutons activement de ce sujet important à l'interne et avec les autres alors que nous continuons d'élaborer des politiques et des mesures de sauvegarde concernant le développement et l'utilisation de nos technologies d'apprentissage automatique. » L'idée restant pour l’essentiel de fournir un outil de recommandation, afin que le programme d'intelligence artificielle puisse rapidement identifier les points d'intérêt autour d'un type de cible ou d'événement, afin que les analystes de drones du DOD puissent travailler plus efficacement.

« Maven », ce programme militaire décidément très ambitieux, soumis à une obligation de résultats rapides.

Le ministère de la Défense (DOD) a ainsi fixé un échéancier très ambitieux pour Maven, le projet devant être opérationnel six mois seulement après sa création.  Et pour répondre à ce calendrier très serré, le Département de la Défense aurait collaboré avec des experts de l'IA dans le secteur technologique et académique, travaillant avec le « Defense Information Experimental », le programme d'incubation technologique du DOD, et le « Defense Innovation Board », un groupe consultatif créé par l'ancien ministre de la Défense Ash Carter pour combler le fossé technologique entre le Pentagone et les leaders de la Silicon Valley. On apprend également qu’Eric Schmidt préside le Conseil de l'innovation de la défense. Lors d'une réunion en juillet, le Président d’Alphabet et d'autres membres du Conseil de l'innovation de la Défense ont ainsi discuté du besoin du ministère de la Défense de créer un centre d'échange de données d'entraînement pouvant être utilisé pour améliorer la capacité d'IA des militaires. Les membres du Conseil n’ont joué qu’un « rôle consultatif » sur le ProjetMaven, selon les procès- verbaux des réunions récupéré par les journalistes. Tandis que « certains membres des équipes du Conseil font partie du groupe de pilotage exécutif qui peut fournir une contribution rapide » au Projet Maven supervisé par le sous-secrétaire aux renseignements de la défense : le lieutenant-général John NT "Jack" Shanahan choisi comme directeur du projet. Maven a été conçu pour être « l'étincelle », selon les propres mots de "Jack" Shanahan, « qui allumerait la flamme de l'intelligence artificielle », à travers le département de la Défense tout entier.

À l'été 2017, l'équipe a décidé de trouver des partenaires commerciaux dont l'expertise était nécessaire pour faire de ses rêves d'IA une réalité. Lors du sommet de la Défense « One Tech » à Washington, Drew Cukor, chef du Corps des Marines de Maven, a déclaré qu'une relation symbiotique entre les humains et les ordinateurs était cruciale pour aider les systèmes d'armes à détecter les objets. S'adressant à une foule d'experts en technologie militaire et industrielle, dont beaucoup venaient de la Silicon Valley, Cukor a ainsi déclaré que les États-Unis étaient au cœur de la course aux armements de l'IA. « Beaucoup d'entre vous auront remarqué qu'Eric Schmidt qualifie Google comme une société ‘d'IA’ maintenant, pas comme une société de données », a-t-il dit, bien que Cukor n'ait pas spécifiquement cité Google comme partenaire Maven.

Bilan et arrière plan stratégique.

Nous le rappelions précédemment, le département de la Défense a dépensé au moins 7,4 milliards de dollars en programmes d’intelligence artificielle en 2017, et devrait dépenser sensiblement plus en 2018.  Une coquette partie de cette somme étant reversée à des sociétés comme Amazon, Alphabet ou Nvidia dont des programmes d’intelligence artificielle qui dépasseraient la capacité interne du Pentagone à les mener à bien par lui-même. Des contrats de défense très lucratifs donc, et qui représentent un excellent moyen pour les géants de la Tech d’améliorer leurs résultats commerciaux, en alignant leurs intérêts financiers avec ceux du Pentagone.

Les militaires  se retrouvent peu ou prou dans une « course à l’armement en Intelligence Artificielle », face à la montée en puissance rapide des grands acteurs militaires concurrents, telles que la Russie et la Chine, comme l’avait d’ailleurs récemment rapporté le Wall Street Journal. Il semble que les planificateurs et les stratèges du Pentagone ont d’ores et déjà tiré la conclusion que la seule façon de conserver l’avantage militaire au profit des Etats-Unis dans les conflits à venir qui se profilent, était encore d’intégrer la Silicon Valley dans la machine de guerre américaine. L’objectif prioritaire étant de se concentrer sur « des systèmes d’apprentissage autonomes, une prise de décision collaborative homme-machine, des opérations humaines assistées, et des systèmes pilotés-autonomes de pointe », ainsi que sur « des armes autonomes intégrées en réseau » comme l’a récemment décrit The Economist dans son récent article de couverture intitulé : « La prochaine guerre ». Cette stratégie d’action semble s’articuler autour de l’idée du recrutement du secteur technologique privé américain, qui demeure le plus développé au monde selon Eric Schmidt. Par ailleurs, les États-Unis « continuent de dominer le financement commercial de l’intelligence artificielle, et comptent plus d’entreprises travaillant dans ce domaine que n’importe quel autre pays » concluait  The Economist dans ses colonnes. S’exprimant lors d’une conférence l’an dernier, le colonel Drew Cukor, chef du Project Maven dans lequel Google est un l’un des acteurs clés, a déclaré que les États-Unis étaient en pleine « course aux armements de l’intelligence artificielle ». Ajoutant : « Beaucoup d’entre vous auront remarqué qu’Eric Schmidt appelle maintenant Google : ‘société d’intelligence’ artificielle,  et plus : ‘entreprise de données’ ». Ajoutant : « Il n’y a pas de « boîte noire » qui offre le système d’intelligence artificielle dont le gouvernement a besoin […] Des éléments clés doivent être assemblés […] et la seule façon de le faire est avec des partenaires commerciaux ».

Vers une nouvelle, « nouvelle ! » Révolution dans les affaires militaires (RAM) ?

Afin de rationaliser les échanges réciproques entre la puissance de calcul des géants de la Silicon Valley, et leur capacité à développer leur dispositif d’intelligence artificielle sur la base d’un usage massif des données de leurs utilisateurs, le Pentagone a tôt fait d’établir une série de partenariats avec la dès 2015, via la mise en place d’un instrument de financement public-privé connu sous le nom de DIUx (pour « Unité d’innovation expérimentale de la Défense »), dont le siège social est situé à quelques minutes à peine du campus principal de Google, à Mountain View en Californie. Le Pentagone avait également mis en place une entité appelée Defense Innovation Advisory Board (Comité consultatif d’innovation du ministère de la Défense) en 2016, visant à « apporter l’innovation technologique et les meilleures pratiques de la Silicon Valley à l’armée américaine », présidé par l’ancien président de Google, Eric Schmidt en personne (comme nous l’indiquions déjà plus haut). Le même Eric Schmidt qui  se navrait L’automne dernier de la réticence de ceux qui travaillaient dans le secteur technologique à collaborer avec le Pentagone, déplorant le fait qu’ « il existe une inquiétude générale dans la communauté technologique que le complexe militaro-industriel utilise leurs produits pour tuer les gens ». En conclusion, la préparation pour un conflit entre grandes puissances exige, comme le rapporte la stratégie de défense nationale récemment publiée par le Pentagone, « l’intégration homogène de multiples éléments du pouvoir national : la diplomatie, l’information, l’économie, la finance, le renseignement, la police et l’armée ». En n’en pas douter, la « nouvelle révolution dans les affaires militaires » (RAM) est en marche.

Palantir Technologie Inc. n’est pas en reste et remporte un contrat militaire mirifique de 876 millions de dollars dans le data-mining.

Fondé en 2004, Palantir est sollicité par des douzaines d'organisations locales, fédérales ou étatiques pour agréger massivement des données éloignées, trouver des modèles et présenter les résultats visuellement graphiques, aisés à interpréter. Son utilisation par la police à Los Angeles, à Chicago et à la Nouvelle-Orléans dans l’usage des calcules prédictifs  a d’ailleurs soulevé des préoccupations éthiques au sujet de la possibilité de cibler injustement certaines minorités. Ce qui n’a pas empêché l'investisseur milliardaire Peter Thiel de remporter très dernièrement une nouvelle victoire à Washington, à travers sa société Palantir Technologies Inc. en décrochant un contrat mirifique, face à une concurrence particulièrement âpre, pour fournir des logiciels de data-mining à l'armée américaine. Palantir travaillera avec Raytheon Co dans cette affaire, pour un montant estimé à 876 millions de dollars sur dix ans, selon le département américain de la Défense (DOD). Les termes du partenariat entre Palantir Technologie Inc. et Raytheon Co n'ont pas été divulgués, et les sociétés n'ont souhaité répondre aux demandes de commentaires. Depuis l'élection de Donald Trump, Peter Thiel a acquis une influence très significative dans les allées du pouvoir à Washington. Il était le d’ailleurs le partisan le plus emblématique de Donald Trump dans la Silicon Valley, et a contribué financièrement à sa campagne.