Révolte en vue contre les outils Amazon de reconnaissance faciale : Etats, consommateurs, actionnaires, y-a-t-il encore quelqu’un capable de tempérer les géants de la Tech ?

Atlantico : A l'occasion de l'assemblée générale annuelle qui a eu lieu ce mercredi, les actionnaires d'Amazon ont pu se prononcer quant à la vente par l'entreprise de sa technologie de reconnaissance faciale aux forces de police américaines. Les contre-pouvoirs internes à Amazon (actionnaires, ingénieurs, etc.) ont-ils les moyens d'endiguer la croissance de la firme, ou du moins d'influencer les décisions de Jeff Bezos ?

Franck DeCloquement : En tout état de cause, les actionnaires d'Amazon vont être invités à se prononcer très clairement, à l’occasion de deux votes, sur la commercialisation de « Rekognition »–la technologie de reconnaissance faciale développée par la firme– auprès des agences gouvernementales. Mais aussi sur la nécessité de commander une étude d’impact indépendante sur les menaces réelles que celapourrait poser en matière de libertés fondamentales.Ces deux votes ne seront toutefois pas contraignants pour Amazon, quelle que soit leur issue, outre le fait qu'ils obligeront nécessairement le géant américain à devoir communiquer et à se prononcer – in fine –sur ses intentions véritables. La direction d'Amazon a en outre cherché à bloquer ces votes, mais sans succès. Et pour cause :le gendarme de la Bourse américaine –la Securities and Exchange Commission (SEC) –est intervenue pour contraindre Amazon à laisser les votes se dérouler sans encombre. Amazon a donc invité ses propres actionnaires à voter en faveur de l'utilisation et de la vente de cette technologie de reconnaissance faciale jugée moins coûteuse à utiliser que plusieurs technologies rivales, spécifiantdans la foulée qu'aucun rapport ne montrait pour l’heure que le système aurait un caractère « illégal » ou « dangereux ». Faisant également valoir que sa technologie innovante ne représentait pas de risque financier majeur, car il ne s’agissait que de l’un des 165 services qu’elle propose par ailleurs.

Pourtant, une étude conduite par les chercheurs du« Massachusetts Institute of Technologyde l'Université de Toronto » (MIT) aurait montré que « Rekognition » souffrait en réalité de très sévères biais algorithmiquesen matière desexe et de type ethnique, bien plusque quatre autres produits concurrents au demeurant. Avec par exemple un taux d'erreur de 0 % constaté en ce qui concerne l'identification d'hommes à la peau blanche, mais grimpant très vite à 31,4 % quand il s’agit cette fois-ci d'identifier des femmes à la carnation plus foncée...Ses prises de positions publiques chez les diverses parties prenantes peuvent potentiellement peser sur certaines formes de décisions et encourager la direction du groupe à faire sensiblement évoluer ses positions de principe, et que certains jugent totalement figées pour l’heure. La presse internationale rapporte d’ailleurs les propos de Mary Beth Gallagherau micro de la BBC – à la tête d’une coalition en faveur de l'investissement responsable: « Nous espérons que nous obtiendrons un soutien fort de la part des autres actionnaires pour envoyer le signal à la direction qu'elle devrait arrêter de collaborer avec le gouvernement à moins qu'il ne soit possible d'atténuer les risques. « Rekognition » autorise une surveillance de masse, ce qui est éthiquement dangereux même si la technologie était 100 % fiable, ce qu'elle est très loin d'être »

Au-delà du conflit au sein de la firme entre le dirigeant et ses actionnaires, n'y a-t-il pas une tension entre les intérêts des GAFAM et l'exigence de sécurité nationale qui caractérise le gouvernement américain ?

On le sait, l’argumentation habituelle mise en avant par Amazon pour se défendre consiste plus généralement à ne pas considérer qu'une technologie doit être bannie ou condamnée « à priori », en raison d’une mauvaise utilisation « potentielle » qui pourrait être faite de celle-ci. Et cela, d’autant plus, s’il s’agit d’un outil pouvant être utile aux forces de l'ordre ou aux agences gouvernementales américaines, leur permettant d’identifier plus efficacement les criminels, de prévenir des actes malveillants plus en amont ou même de retrouver des personnes disparues. Et cela, dans un souci d’assurer les conditions de la sécurité nationale…

Amazon a d’ores et déjà vivement contesté les conclusions de certaines recherches à charge contre son dispositif de reconnaissance faciale, affirmant sans ambages que les chercheurs impliqués avaient utilisé « une version obsolète » de son outil, et que ses propres vérifications n'avaient révélé « aucune différence » notable dans la classification par sexe des différentes ethnies. Toutefois, même après cela, des groupes de défense des libertés civiles et des centaines de travailleurs d'Amazon se sont opposés à l’usage de « Rekognition ». Et l'un des directeurs d'Amazon Web Services Ian Massingham–en qualité de « TechnicalEvangelist » – a récemment déclaré à la BBC qu'il incombait désormais aux politiques de décider si des restrictions devaient être mises en place à cet effet. « Une fois la recherche publiée, il est difficile de désinventer quelque chose […] Notre objectif est donc de nous assurer que la gouvernance et les contrôles législatifs appropriés sont en place. » La puissante association « The American Civil Liberties Union », dite aussi« ACLU », une organisation américaine pour les libertés civiles, a par ailleurs publié une lettre ouverte appelant les investisseurs d’Amazon d’adopter ces résolutions : «Votre vote pourrait changer la société dans laquelle nous vivrons à l’avenir, et nous éviter un futur de surveillance continue et dangereuse des gouvernements», peut-on lire sur le document qui a été diffusé. Le message semble assez clair au demeurant…

Assurer à tout prix les conditions de la sécurité nationale et de la défense comme le font les Etats-Unis est-il un modèle viable et exportable dans d'autres pays ?

Selon le New York Times, certains des grands investisseurs institutionnels prévoient déjà de voter en faveur de la seconde proposition qui commande à Amazon de diligenter un rapport indépendant sur les menaces potentielles que son logiciel poserait sur les droits civils et humains,en lien avec la préservation de la vie privée de chacun, ainsi que sur son financement. C’est le cas par exemple du fonds de pension de New York, qui possède environ un milliard de dollars en actions de la firme géantes américaines. «Nous voulons que le comité d’Amazon surveille et divulgue comment l’entreprise répond aux risques importants posés par la vente de la technologie de reconnaissance faciale», a d’ailleurs déclaré Scott Stringer, le contrôleur général des finances de New York.

Le souci évident pour le gouvernement américain de protéger et d’assurer les conditions de sa sécurité nationale est parfaitement légitime. Et en effet, ce concept du domaine des sciences politiques pourrait parfaitement nous servir de modèle d’action, bien au-delà de nos propres prérogatives en matière de « Défense Nationale ». D’autant plus quand les technologies digitales nous posent des problématiques très fortes de souveraineté numérique. On pense immédiatement au « Cloud Act » américain promulgué par Donald Trump en 2018 contre l’adoption de notre RGPD, qui permet en outre une forme « d’extraterritorialité du droit de la donnée » contre nos propres intérêts nationaux européens en la matière, et aux dernières polémiques en lien avec l’usage stratégique et l’adoption ou non des technologies 5G que propose la firme Chinoise Huawei. L’affaire n’est pas mince et les polémiques en la matière font rage entre les Européens et l’Amérique de Trump. Il n'existe pas de définition unique reconnue de la sécurité nationale, mais celle-ci est cependant très présente dans le droit international qui le mentionne. La sécurité nationale figure par exemple dans la Charte des Nations unies et dans le traité de l'Union européenne.

Traditionnellement, la « sécurité nationale » assure la protection, voire la défense de notre souveraineté recouvrant territoire et population. Elle passait par l’existence de frontières naturelles (le Rhin, les Alpes..., ainsi que leszones économiques exclusives ou ZEE), qui justifient l’existence d’une doctrine et d’une défense opérationnelle. La constitution d’une autonomie stratégique avec une base industrielle et technologique de défense (BITD) efficace, associée à un processus de prises de décisions solides assure cette défense et sécurité souveraines face à des menaces terrestres, maritimes, aériennes et spatiales.

Depuis les années 1980-95, de nouvelles menaces sont apparues tant à l'extérieur qu'à l'intérieur de nos frontières avec l’expansion du cyberespace qui participe à la mondialisation des échanges (menaces anonymes ou hackers, cyberattaques, crime organisé, terrorisme, contre-mesures électroniques, guerres hybrides, asymétriques ou hors limites). Les vulnérabilités sont toujours plus nombreuses au rythme de la transformation digitale, de l’extension du Big data, des spécificités dans leur transmission (vélocité, temps de latence, bande passante, etc.) avec une complexité croissante à travers les trois principales couches de l’Internet (physique, logicielle et sémantique) : Zeroday exploits, cyberattaques et difficultés d’attribution entre Deep web et Dark web. Soyons clair : la digitalisation de notre société crée deux réalités, donc deux identités à protéger ou à sécuriser dans des écosystèmes de confiance à construire. Une politique de sécurité nationale ou stratégie de sécurité nationale, qui consiste en la définition des objectifs à atteindre, des moyens à mettre en œuvre et des ressources à mobiliser par un État pour protéger sa population, son territoire et ses intérêts vitaux, pourrait grandement y aider. Transverse aux grandes fonctions ministérielles traditionnelles des États comme la défense, la politique étrangère ou la sécurité intérieure en ce qu'elle appréhende dans une vision d'ensemble les menaces et les risques qui pèsent sur la sécurité nationale et auxquels les réponses, souvent multifonctionnelles, requièrent la mise en œuvre de politiques interministérielles cohérentes et coordonnées.