L’inquiétant système chinois de notation sociale qui menace le monde <!-- --> | Atlantico.fr
Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
système de notation sociale Chine réseaux sociaux Pékin surveillance black mirror
système de notation sociale Chine réseaux sociaux Pékin surveillance black mirror
©© Maxppp / Liu Tao

Bonnes feuilles

Olivier Babeau publie " Le nouveau désordre numérique" chez Buchet Chastel. La crise sanitaire du printemps 2020 aura consacré le triomphe du numérique. Les nouvelles technologies portaient l’espoir d’un monde plus égalitaire. L’espoir est cruellement déçu. Extrait 2/2.

Olivier Babeau

Olivier Babeau

Olivier Babeau est essayiste et professeur à l’université de Bordeaux. Il s'intéresse aux dynamiques concurrentielles liées au numérique. Parmi ses publications:   Le management expliqué par l'art (2013, Ellipses), et La nouvelle ferme des animaux (éd. Les Belles Lettres, 2016), L'horreur politique (éd. Les Belles Lettres, 2017) et Eloge de l'hypocrisie d'Olivier Babeau (éd. du Cerf).

Voir la bio »

Vous venez de vous installer dans un train nouvelle génération. Les haut-parleurs diffusent le message suivant d’une voix mécanique : « Chers passagers, les gens qui circulent sans ticket, qui se comportent de façon inappropriée ou fument dans les espaces publics seront punis selon la réglementation et seront signalés à la base de données de crédit individuel. Pour éviter une dévalorisation de votre crédit personnel, veuillez- vous conformer au règlement. » Il ne s’agit pas d’un nouvel épisode de la série d’anticipation Black Mirror, mais d’une vidéo filmée à la dérobée en 2019 dans le train Pékin-Shanghai. 

La Chine a mis en place, en l’espace de quelques années, le système de contrôle des comportements le plus élaboré et le plus implacable de l’histoire humaine. Toutes les actions sur les réseaux sociaux, tous les échanges sur WeChat, les déplacements, les achats, toute la vie des Chinois, en un mot, fait l’objet d’un contrôle centralisé. Le télécran de 1984 existe, en version XXL : ses millions de caméras sont placées dans les rues et parviennent, par reconnaissance faciale, à attribuer précisément les comportements extérieurs à chaque citoyen. Le résultat est une note de « crédit social » sanctionnant les récalcitrants, les non-conformes. Une note dégradée limite vos capacités à voyager, vous loger, travailler. Elle signe votre bannissement social, et celle de votre famille, en empêchant par exemple vos enfants de s’inscrire à l’université. 

Le système de notation sociale aurait donné une érection à Staline et Mao. Le régime a empêché 17,5 millions de citoyens « discrédités » d’acheter des billets d’avion et 5,5 millions d’acheter des billets de train : en tout, 23 millions de Chinois ont interdiction de voyager. Il y avait en 2019 en Chine 300  millions de caméras. Elles seront un milliard en 2021 !

L’étau se resserre chaque jour davantage : fin 2019, il a été annoncé que les propriétaires d’un smartphone seraient désormais obligés de se faire enregistrer par reconnaissance faciale et d’associer leur visage au numéro de téléphone attribué. Il n’y aura « nulle part où se cacher », comme le prévoyait une couverture de The Economist en septembre 2017. 

La progression du système de surveillance est extrêmement rapide. Mois après mois, tous les gestes indésirables du quotidien sont encadrés. En avril 2019, les médias d’État annoncent que désormais le fait d’utiliser des sièges supplémentaires ou de manger dans le métro de Pékin sera un motif de dégradation du crédit social. Une sonnerie de téléphone spéciale est attribué aux citoyens endettés. 

Auparavant, le contrôle nécessitait le contact physique, le prélèvement d’empreintes, la vérification de papiers. Il était ainsi ponctuel et aléatoire. Avec la reconnaissance faciale, il se fait permanent et systématique. L’objectif de Pékin à terme : pouvoir identifier n’importe qui, n’importe quand et n’importe où en Chine en seulement trois secondes. 

Notre visage était cette caractéristique unique qui nous différenciait. Ce trésor de complexité où peuvent se lire, d’après d’infimes détails, une infinité d’expressions. Le philosophe Emmanuel Levinas avait fait du visage de l’être humain la forme essentielle de l’expérience d’autrui, une supplication renvoyant celui qui le rencontre à la loi morale qui nous rend responsables de nos semblables. Il est désormais l’outil pervers du contrôle absolu de chacun, isolé face à une machinerie totalitaire immense et insaisissable. On ne peut pas se soustraire à un contrôle permanent et invisible. Dans le monde d’hier, ceux qui voulaient y échapper avaient la ressource des faux-papiers. Modifier son visage sera plus difficile. 

Outil de conformité sociale, la reconnaissance faciale est une arme potentielle terrifiante de répression des individus déviants. Des chercheurs de l’Université de Stanford sont parvenus à créer un algorithme pouvant attribuer avec succès la sexualité d’hommes à partir de leur photo avec 81 % d’exactitude – et même 91 % en se basant sur cinq photos. Pour le même exercice, les humains ne parviennent qu’à 61 % de taux d’exactitude. On imagine aisément ce qu’un tel outil peut permettre à un pays qui criminaliserait l’homosexualité : stigmatisation, rééducation et finalement suppression. 

Il ne s’agit pas seulement pour les autorités chinoises de prévenir les soulèvements politiques. Le but est plus fondamentalement d’instaurer un ordre qui s’étend au-delà de l’immédiate obéissance des corps, suivant en cela le projet qu’avait très bien vu Michel Foucault. Le système est là moins pour briser les énergies que pour les canaliser afin de transformer chacun en serviteur zélé de la collectivité, appliquant le règlement jusque dans sa conduite la plus intime. La force de la notation sociale est de ne pas être seulement un mécanisme répressif, mais de se présenter aussi comme guide, de proposer une prophylaxie de l’existence. 

L’habitude séculaire des Chinois de cracher partout dans les rues a été éradiquée en quelques mois sur simple décision du président Xi Jinping. Des compagnies d’assurances chinoises utilisent les technologies de surveillance du smartphone pour connaître le nombre de pas de leurs clients. Demain, il n’est pas difficile d’imaginer que les repas, l’activité, la tension artérielle, en gros le fonctionnement général de l’organisme, fera l’objet d’un monitoring permanent. 

Il ne semble pas que ce mouvement rencontre en Chine d’opposition vraiment substantielle. Seulement 90 millions de Chinois utilisent des logiciels pour rendre la navigation privée (des VPN) afin d’avoir accès aux sites occidentaux interdits  : cela signifie qu’environ 90 % des internautes chinois se contentent du Web officiel, c’est-à-dire d’une version de la réalité expurgée et contrôlée.

Il serait naïf de penser que nos démocraties sont immunisées contre le nouvel ordre chinois. Sommes-nous si loin de cette menace dans nos démocraties libérales ? La société du risque zéro, qui vit l’accident comme un scandale ; l’inquiétude contre la diffusion des fausses nouvelles qui encourage à bannir l’anonymat sur Internet ; la menace terroriste enfin : autant de facteurs justifiant par avance les mesures liberticides. De plus, les esprits sont préparés  : du taxi à l’hébergement en passant par nos profils sur les plateformes, Internet nous a habitués à noter et à être notés dans maintes circonstances. L’idée d’une généralisation d’un système à la chinoise est rien moins que spéculative : Amazon a annoncé développer pour le compte du gouvernement américain une technologie de reconnaissance faciale visant à lutter contre l’immigration…

Le grand problème du mécanisme de notation sociale que la Chine est en train de mettre en place, c’est qu’il est au fond assez séduisant. Quiconque a déjà fait, pour quelques jours, l’expérience de la vie dans un régime sécuritaire peut témoigner du confort appréciable qu’il procure au touriste. Rendez-vous compte : quelle que soit l’heure, se promener en toute insouciance, laisser ses affaires sans surveillance et sa porte ouverte ! Qui n’a pas rêvé, en voyant les honteux « territoires perdus de la République » dont parlait Emmanuel Brenner ou après s’être fait voler son vélo, d’un système de surveillance si efficace qu’il découragerait le malfrat désormais certain d’être pris et puni ? À l’heure où nos policiers font face à des guet-apens criminels, l’ordre semble avoir des séductions que l’idée de liberté ne peut concurrencer. 

Pourquoi résister alors ? disent déjà tant de concitoyens. Ces nouvelles technologies prennent rapidement place dans nos vies. La vidéosurveillance et la reconnaissance faciale se diffusent de façon fulgurante dans les démocraties. Le quadrillage intégral des rues n’est qu’une question de temps. Les villes installent sans cesse plus de caméras. En Corée du Sud, les caméras sont dotées d’une technologie censée détecter les crimes avant qu’ils ne soient commis. Elles mesurent automatiquement si quelqu’un marche normalement ou suit quelqu’un. Elles détectent aussi ce que les gens portent sur eux et les objets susceptibles d’être utilisés pour commettre un crime. Il n’est plus nécessaire d’avoir un policier derrière chaque écran, une intelligence artificielle est bien plus efficace pour repérer – à l’aide de technologies comme la reconnaissance thermique mesurant la chaleur des corps – les personnes ayant des comportements anormaux. La puissance informatique disponible permet de comparer les scènes observées à celles qui ont effectivement donné lieu à un crime, et d’alerter immédiatement en cas de probabilité de méfait jugée élevée. Le film sorti en 2002 Minority Report, de Steven Spielberg, et avec Tom Cruise, qui était déjà passé du rayon science-fiction à celui d’anticipation, pourrait presque être rangé parmi les documentaires… 

Dans l’aéroport d’Orly, deux compagnies aériennes, dont Air France, testent la reconnaissance faciale pour l’embarquement des passagers depuis début 2020. Au Japon, des taxis utilisent la reconnaissance faciale pour deviner l’âge et le sexe du client afin de lui proposer des publicités ciblées. Les progrès technologiques sont confondants  : il est probable que l’intelligence artificielle parvienne bientôt à lire sur les lèvres. Il n’y aura plus, dans la rue, de conversation privée. 

Nous sommes d’ores et déjà parfaitement pistés grâce à nos téléphones portables, de véritables mouchards qui disent tout de nous. Facebook a reconnu collecter en permanence des informations sur le lieu où se trouve chacun de ses utilisateurs, qu’ils aient activé la géolocalisation ou pas, officiellement « pour des raisons de sécurité et à des fins publicitaires ». Les « choix » qui nous sont proposés pour éviter théoriquement le pistage de nos actions et l’accumulation de données sur nous ne sont que des leurres. Le règlement européen sur la protection des données personnelles n’a pas changé grand-chose : nous sommes juste contraints d’accepter d’un clic l’utilisation des « cookies » et les « conditions générales » lorsque nous voulons accéder à un site. 

Les signaux objectifs d’un recul des libertés se multiplient. La nasse se resserre. Même s’il n’utilise pas tout de suite à plein les possibilités de surveillance qui lui sont données, un régime qui dispose de ce genre d’outil risque fort de finir par céder à la tentation de les utiliser. Cela sera d’autant plus facile que le contrôle apportera une réponse bienvenue à la crise de sens de nos démocraties.

A lire aussi : Ecosystème verrouillé : les voix qui s’élèvent pour s’inquiéter de l’hyperpuissance des géants du numérique

Extrait du lire d’Olivier Babeau, "Le nouveau désordre numérique, comment le digital fait exploser les inégalités", publié chez Buchet Chastel 

Lien vers la boutique : cliquez ICI et ICI

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !