En direct
Best of
Best of du 8 au 14 juin
En direct
© Reuters
Le vrai visage de la Silicon Valley
Révolte en vue contre les outils Amazon de reconnaissance faciale : Etats, consommateurs, actionnaires, y-a-t-il encore quelqu’un capable de tempérer les géants de la Tech ?
Publié le 23 mai 2019
A l'occasion de l'assemblée générale annuelle qui a eu lieu ce mercredi, les actionnaires d'Amazon ont pu se prononcer quant à la vente par l'entreprise de sa technologie de reconnaissance faciale aux forces de police américaines.
Franck DeCloquement est praticien et expert en intelligence économique et stratégique (IES). Membre fondateur du Cercle K2 et ancien de l’Ecole de Guerre Economique de Paris (EGE), il est en outre professeur à l'IRIS (Institut de Relations...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Franck DeCloquement
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Franck DeCloquement est praticien et expert en intelligence économique et stratégique (IES). Membre fondateur du Cercle K2 et ancien de l’Ecole de Guerre Economique de Paris (EGE), il est en outre professeur à l'IRIS (Institut de Relations...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
A l'occasion de l'assemblée générale annuelle qui a eu lieu ce mercredi, les actionnaires d'Amazon ont pu se prononcer quant à la vente par l'entreprise de sa technologie de reconnaissance faciale aux forces de police américaines.

Atlantico : A l'occasion de l'assemblée générale annuelle qui a eu lieu ce mercredi, les actionnaires d'Amazon ont pu se prononcer quant à la vente par l'entreprise de sa technologie de reconnaissance faciale aux forces de police américaines. Les contre-pouvoirs internes à Amazon (actionnaires, ingénieurs, etc.) ont-ils les moyens d'endiguer la croissance de la firme, ou du moins d'influencer les décisions de Jeff Bezos ?

Franck DeCloquement : En tout état de cause, les actionnaires d'Amazon vont être invités à se prononcer très clairement, à l’occasion de deux votes, sur la commercialisation de « Rekognition »–la technologie de reconnaissance faciale développée par la firme– auprès des agences gouvernementales. Mais aussi sur la nécessité de commander une étude d’impact indépendante sur les menaces réelles que celapourrait poser en matière de libertés fondamentales.Ces deux votes ne seront toutefois pas contraignants pour Amazon, quelle que soit leur issue, outre le fait qu'ils obligeront nécessairement le géant américain à devoir communiquer et à se prononcer – in fine –sur ses intentions véritables. La direction d'Amazon a en outre cherché à bloquer ces votes, mais sans succès. Et pour cause :le gendarme de la Bourse américaine –la Securities and Exchange Commission (SEC) –est intervenue pour contraindre Amazon à laisser les votes se dérouler sans encombre. Amazon a donc invité ses propres actionnaires à voter en faveur de l'utilisation et de la vente de cette technologie de reconnaissance faciale jugée moins coûteuse à utiliser que plusieurs technologies rivales, spécifiantdans la foulée qu'aucun rapport ne montrait pour l’heure que le système aurait un caractère « illégal » ou « dangereux ». Faisant également valoir que sa technologie innovante ne représentait pas de risque financier majeur, car il ne s’agissait que de l’un des 165 services qu’elle propose par ailleurs.

Pourtant, une étude conduite par les chercheurs du« Massachusetts Institute of Technologyde l'Université de Toronto » (MIT) aurait montré que « Rekognition » souffrait en réalité de très sévères biais algorithmiquesen matière desexe et de type ethnique, bien plusque quatre autres produits concurrents au demeurant. Avec par exemple un taux d'erreur de 0 % constaté en ce qui concerne l'identification d'hommes à la peau blanche, mais grimpant très vite à 31,4 % quand il s’agit cette fois-ci d'identifier des femmes à la carnation plus foncée...Ses prises de positions publiques chez les diverses parties prenantes peuvent potentiellement peser sur certaines formes de décisions et encourager la direction du groupe à faire sensiblement évoluer ses positions de principe, et que certains jugent totalement figées pour l’heure. La presse internationale rapporte d’ailleurs les propos de Mary Beth Gallagherau micro de la BBC – à la tête d’une coalition en faveur de l'investissement responsable: « Nous espérons que nous obtiendrons un soutien fort de la part des autres actionnaires pour envoyer le signal à la direction qu'elle devrait arrêter de collaborer avec le gouvernement à moins qu'il ne soit possible d'atténuer les risques. « Rekognition » autorise une surveillance de masse, ce qui est éthiquement dangereux même si la technologie était 100 % fiable, ce qu'elle est très loin d'être »

Au-delà du conflit au sein de la firme entre le dirigeant et ses actionnaires, n'y a-t-il pas une tension entre les intérêts des GAFAM et l'exigence de sécurité nationale qui caractérise le gouvernement américain ?

On le sait, l’argumentation habituelle mise en avant par Amazon pour se défendre consiste plus généralement à ne pas considérer qu'une technologie doit être bannie ou condamnée « à priori », en raison d’une mauvaise utilisation « potentielle » qui pourrait être faite de celle-ci. Et cela, d’autant plus, s’il s’agit d’un outil pouvant être utile aux forces de l'ordre ou aux agences gouvernementales américaines, leur permettant d’identifier plus efficacement les criminels, de prévenir des actes malveillants plus en amont ou même de retrouver des personnes disparues. Et cela, dans un souci d’assurer les conditions de la sécurité nationale…

Amazon a d’ores et déjà vivement contesté les conclusions de certaines recherches à charge contre son dispositif de reconnaissance faciale, affirmant sans ambages que les chercheurs impliqués avaient utilisé « une version obsolète » de son outil, et que ses propres vérifications n'avaient révélé « aucune différence » notable dans la classification par sexe des différentes ethnies. Toutefois, même après cela, des groupes de défense des libertés civiles et des centaines de travailleurs d'Amazon se sont opposés à l’usage de « Rekognition ». Et l'un des directeurs d'Amazon Web Services Ian Massingham–en qualité de « TechnicalEvangelist » – a récemment déclaré à la BBC qu'il incombait désormais aux politiques de décider si des restrictions devaient être mises en place à cet effet. « Une fois la recherche publiée, il est difficile de désinventer quelque chose […] Notre objectif est donc de nous assurer que la gouvernance et les contrôles législatifs appropriés sont en place. » La puissante association « The American Civil Liberties Union », dite aussi« ACLU », une organisation américaine pour les libertés civiles, a par ailleurs publié une lettre ouverte appelant les investisseurs d’Amazon d’adopter ces résolutions : «Votre vote pourrait changer la société dans laquelle nous vivrons à l’avenir, et nous éviter un futur de surveillance continue et dangereuse des gouvernements», peut-on lire sur le document qui a été diffusé. Le message semble assez clair au demeurant…

Assurer à tout prix les conditions de la sécurité nationale et de la défense comme le font les Etats-Unis est-il un modèle viable et exportable dans d'autres pays ?

Selon le New York Times, certains des grands investisseurs institutionnels prévoient déjà de voter en faveur de la seconde proposition qui commande à Amazon de diligenter un rapport indépendant sur les menaces potentielles que son logiciel poserait sur les droits civils et humains,en lien avec la préservation de la vie privée de chacun, ainsi que sur son financement. C’est le cas par exemple du fonds de pension de New York, qui possède environ un milliard de dollars en actions de la firme géantes américaines. «Nous voulons que le comité d’Amazon surveille et divulgue comment l’entreprise répond aux risques importants posés par la vente de la technologie de reconnaissance faciale», a d’ailleurs déclaré Scott Stringer, le contrôleur général des finances de New York.

Le souci évident pour le gouvernement américain de protéger et d’assurer les conditions de sa sécurité nationale est parfaitement légitime. Et en effet, ce concept du domaine des sciences politiques pourrait parfaitement nous servir de modèle d’action, bien au-delà de nos propres prérogatives en matière de « Défense Nationale ». D’autant plus quand les technologies digitales nous posent des problématiques très fortes de souveraineté numérique. On pense immédiatement au « Cloud Act » américain promulgué par Donald Trump en 2018 contre l’adoption de notre RGPD, qui permet en outre une forme « d’extraterritorialité du droit de la donnée » contre nos propres intérêts nationaux européens en la matière, et aux dernières polémiques en lien avec l’usage stratégique et l’adoption ou non des technologies 5G que propose la firme Chinoise Huawei. L’affaire n’est pas mince et les polémiques en la matière font rage entre les Européens et l’Amérique de Trump. Il n'existe pas de définition unique reconnue de la sécurité nationale, mais celle-ci est cependant très présente dans le droit international qui le mentionne. La sécurité nationale figure par exemple dans la Charte des Nations unies et dans le traité de l'Union européenne.

Traditionnellement, la « sécurité nationale » assure la protection, voire la défense de notre souveraineté recouvrant territoire et population. Elle passait par l’existence de frontières naturelles (le Rhin, les Alpes..., ainsi que leszones économiques exclusives ou ZEE), qui justifient l’existence d’une doctrine et d’une défense opérationnelle. La constitution d’une autonomie stratégique avec une base industrielle et technologique de défense (BITD) efficace, associée à un processus de prises de décisions solides assure cette défense et sécurité souveraines face à des menaces terrestres, maritimes, aériennes et spatiales.

Depuis les années 1980-95, de nouvelles menaces sont apparues tant à l'extérieur qu'à l'intérieur de nos frontières avec l’expansion du cyberespace qui participe à la mondialisation des échanges (menaces anonymes ou hackers, cyberattaques, crime organisé, terrorisme, contre-mesures électroniques, guerres hybrides, asymétriques ou hors limites). Les vulnérabilités sont toujours plus nombreuses au rythme de la transformation digitale, de l’extension du Big data, des spécificités dans leur transmission (vélocité, temps de latence, bande passante, etc.) avec une complexité croissante à travers les trois principales couches de l’Internet (physique, logicielle et sémantique) : Zeroday exploits, cyberattaques et difficultés d’attribution entre Deep web et Dark web. Soyons clair : la digitalisation de notre société crée deux réalités, donc deux identités à protéger ou à sécuriser dans des écosystèmes de confiance à construire. Une politique de sécurité nationale ou stratégie de sécurité nationale, qui consiste en la définition des objectifs à atteindre, des moyens à mettre en œuvre et des ressources à mobiliser par un État pour protéger sa population, son territoire et ses intérêts vitaux, pourrait grandement y aider. Transverse aux grandes fonctions ministérielles traditionnelles des États comme la défense, la politique étrangère ou la sécurité intérieure en ce qu'elle appréhende dans une vision d'ensemble les menaces et les risques qui pèsent sur la sécurité nationale et auxquels les réponses, souvent multifonctionnelles, requièrent la mise en œuvre de politiques interministérielles cohérentes et coordonnées.

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Articles populaires
Période :
24 heures
7 jours
01.
Véhicules propres : la Chine abandonne l'électrique pour miser sur la voiture à hydrogène
02.
Auchan, Carrefour, Casino : mais que vont devenir toutes ces galeries marchandes et hypermarchés qui se vident ?
03.
Mariage de Karine Ferri : Nikos n'est pas venu, les autres stars non plus; Laeticia Hallyday se rabiboche avec son père, Meghan Markle aurait fait fuir sa mère, Rihanna renoue avec son milliardaire;  Kate Middleton snobe Rose, Britney Spears s'arrondit
04.
Vol MH370 : "le pilote se serait envolé à 12 000 mètres pour tuer l'équipage dans la cabine dépressurisée ", selon un nouveau rapport
05.
Crise au sein de LREM dans le Nord : six députés claquent la porte
06.
Dents de la mer : les grands requins blancs remontent vers le Nord aux Etats-Unis, faut il redouter la même chose en Europe ?
01.
PMA : la droite est-elle menacée de commettre la même erreur qu’avec le progressisme des années 60 qu’elle a accepté en bloc au nom de l’évolution de la société ?
02.
Voulez-vous savoir dans quelle France on entend vous faire vivre ? Regardez bien l'affiche de l'UNICEF !
03.
Ce piège dans lequel tombe le gouvernement en introduisant le concept d’islamophobie dans le proposition de loi Avia sur la lutte contre les contenus haineux
04.
Mais pourquoi s’abstenir de faire des enfants pour sauver la planète alors que le pic démographique est passé ? Petits arguments chiffrés
05.
Acte II : mais comment définir la ligne suivie par le gouvernement en matière de politique économique ?
06.
Cash Investigation : pourquoi le traitement des semences par les multinationales est nettement plus complexe que le tableau dressé par l’émission de France 2
Commentaires (1)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
AZKA
- 24/05/2019 - 08:29
Ça prend vraiment la tête
Tout ça :)