En direct
Best of
Best of du 12 au 18 octobre
En direct
Flash-actu
Articles populaires
Période :
24 heures
7 jours
01.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

02.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

03.

Renault en plein chaos post Ghosn

04.

Ce "petit" problème de ressources humaines qui complique la réindustrialisation de la France

05.

L'arrestation du fils d'El Chapo entraîne des affrontements violents entre la police et le cartel de Sinaloa

06.

Les musulmans persécutés en France ? La réalité par les chiffres

07.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

01.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

02.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

03.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

04.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

05.

Comment Carlos Ghosn a été expulsé de la tête de Renault en quelques heures

06.

Les musulmans persécutés en France ? La réalité par les chiffres

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Voile : toutes celles qui le portent ne sont pas islamistes, mais aucune ne peut décider seule de sa signification

03.

Ressusciter LR : mission impossible pour Christian Jacob ?

04.

Les musulmans persécutés en France ? La réalité par les chiffres

05.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

06.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

ça vient d'être publié
pépites > International
Cessez-le-feu
Recep Tayyip Erdogan menace les combattants kurdes en cas de non-respect de l’accord
il y a 6 heures 2 min
light > Insolite
"Highway to Hell"
Un informaticien a piraté la billetterie du Hellfest afin de tenter d'obtenir désespérément une place
il y a 9 heures 18 min
pépites > Europe
Casse-tête politique
Brexit : l'amendement Letwin a été adopté, les députés reportent leur décision sur l'accord
il y a 10 heures 55 min
décryptage > Culture
Atlanti-Culture

"John Tanner, Tome 1, le captif du peuple des 1000 lacs" de Christian Perrissin et Boro Pavlovic : une histoire vraie, servie par des dessins bien loin des images d'Epinal

il y a 12 heures 36 min
pépite vidéo > Europe
Catalogne
Les images des violences à Barcelone en marge de la manifestation des indépendantistes catalans
il y a 13 heures 9 min
pépites > Europe
Chambre des communes
Brexit : journée décisive et vote historique au Parlement britannique
il y a 14 heures 27 min
décryptage > Politique
Bonnes feuilles

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

il y a 16 heures 33 min
décryptage > Culture
Shakespeare revient, ils sont devenus fous !

Pendant des siècles, Othello a été noir : le théâtre des Abbesses a mis fin à ce scandale

il y a 16 heures 43 min
décryptage > Politique
Avenir de la droite

La petite mort des Républicains

il y a 17 heures 5 min
décryptage > Economie
Atlantico Business

Renault en plein chaos post Ghosn

il y a 17 heures 30 min
Vallée des Rois
Egypte : découverte exceptionnelle de trente sarcophages de plus de 3.000 ans
il y a 7 heures 31 min
pépite vidéo > People
Epreuve
Meghan Markle se confie sur le harcèlement des tabloïds
il y a 10 heures 9 min
pépites > Europe
Journée décisive et historique
Brexit : manifestation à Londres devant le Parlement pour réclamer un nouveau référendum
il y a 11 heures 32 min
décryptage > Culture
Atlanti-Culture

"La Bruyère, portrait de nous-mêmes" de Jean-Michel Delacomptée : un portrait captivant

il y a 12 heures 47 min
pépites > France
Mouvement social
Grève à la SNCF : Edouard Philippe déplore un "détournement du droit de retrait"
il y a 13 heures 56 min
décryptage > Media
L'art de la punchline

Un 18 octobre en tweets : Jean-Sébastien Ferjou en 280 caractères

il y a 15 heures 25 min
décryptage > France
Bonnes feuilles

La douloureuse question du suicide dans la police

il y a 16 heures 36 min
décryptage > Economie
industrie

Ce "petit" problème de ressources humaines qui complique la réindustrialisation de la France

il y a 16 heures 57 min
décryptage > High-tech
Icônes

Emojis, instagram et selfie : cette bascule vers une civilisation de l’image qui nous tombe sur la tête

il y a 17 heures 15 min
rendez-vous > Media
Revue de presse people
Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday
il y a 17 heures 39 min
© Thomas SAMSON / AFP
© Thomas SAMSON / AFP
La data, c’est plus fort que toi

Pourquoi les algorithmes sont beaucoup plus politiques que ce vous croyez

Publié le 09 novembre 2018
Les algorithmes sont devenus l’infrastructure cognitive permettant d’ordonnancer l’information à une échelle jamais connue jusque-là.
Directeur marketing basé à Pékin, spécialiste du management de l’innovation, Bertrand Hartemann se passionne pour les nouveaux modèles économiques induits par la disruption numérique. Diplômé de la Sorbonne et du CNAM en droit, finances et économie, il...
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Bertrand Hartemann
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Directeur marketing basé à Pékin, spécialiste du management de l’innovation, Bertrand Hartemann se passionne pour les nouveaux modèles économiques induits par la disruption numérique. Diplômé de la Sorbonne et du CNAM en droit, finances et économie, il...
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Les algorithmes sont devenus l’infrastructure cognitive permettant d’ordonnancer l’information à une échelle jamais connue jusque-là.

Ils prolifèrent dans toutes les directions faisant corps avec leur environnement. Les processus d’embauche, d’octroi de crédit bancaire, de ciblage publicitaire ou encore de diagnostic médical intègrent de manière croissante ces outils prédictifs. Avec le développement des techniques dites « d’apprentissage machine » mimant le système neuronal, on en vient même à fantasmer sur une possible mise en équation de l‘intelligence humaine. Loin d’être neutre, cette « numérisation du monde » est en soit une fiction raisonnée porteuse de valeurs. Elle échappe pourtant encore largement au champ politique et ce alors même qu’elle est potentiellement source de biais sociaux et économiques.  

Une vision actuarielle de la société

Les algorithmes décrivent l'enchaînement logique des étapes nécessaires à la résolution d’un problème. Cette automatisation des processus de raisonnement a toujours existé. Les premières méthodes de calcul et de résolution d’équation datent des babyloniens, au IIIe siècle avant J.-C. Ces mécanismes analytiques ont ensuite été systématisés par le mathématicien perse Al-Khwarizmi au IXème siècle et par le philosophe andalou Averroès au XII siècle. En 1843, Ada Lovelace, pionnière de l’informatique, réalise la première implémentation d’un algorithme sous forme de programme. La puissance calculatoire et le volume de données collectées changent aujourd’hui d’échelle. L’analyse algorithmique est désormais en mesure de faire surgir des corrélations dans de vastes systèmes stochastiques (dépendant du hasard).

Souvent parés de la vertu d’objectivité des mathématiques, ces artefacts ne sont pourtant pas neutres. Ils constituent une nouvelle forme culturelle organisant un savoir qui leur est propre. Comme toute modalité de traitement de l’information, ils traduisent des opinions. Aux Etats-Unis, ils sont placés sous la protection du premier amendement de la Constitution, portant sur le droit à la libre expression. Leur structure dépend des données entrantes ainsi que de la définition des résultats attendus. A une problématique peut donc correspondre de multiples modèles de résolution.

A la manière d’un enfant qui se « nourrit » des interactions avec son environnement, l’algorithme apprend de la sélection des informations mises à sa disposition. Le risque est alors d’avoir des angles morts, avec des données insuffisantes ou incorrectes. Déduire les évolutions futures à partir des données du passé implique également de mener une analyse critique des sous-jacents sociaux, économiques ou culturels. Aux Etats-Unis, les décisions de justice s’appuient déjà sur des outils actuariels de calcul du risque d’infraction. Les mises en détention provisoires, avant un procès, ou les libertés conditionnelles sont décidées en fonction de la note attribuée. Or comme l’a illustré le site d’investigation ProPublica (2016), certains de ces logiciels ont tendance à surévaluer le risque de récidive des populations afro-américaines. Ils ne sont pas en soi racistes mais se fondent sur des données corrélées aux origines sociales, créant ainsi « une boucle de rétroaction de l’injustice » (Virginia Eubanks, 2016). On peut dès lors s’inquiéter du risque de renforcement de la surveillance et des soupçons pesant sur les groupes les plus marginalisés.

L’automatisation de la décision risque par ailleurs de faire disparaître toute subjectivité, tout processus de dialogue. L’individu n’est plus objectivé à travers son discours, ou la manière dont il cherche à se présenter aux autres. Il est profilé par des modèles épidémiologiques de calcul des risques. Le fait pour un individu d’être relié à certains profils statistiques suffit désormais à le classifier, sans jugement sur la singularité de son parcours individuel. Se dessine une économie actuarielle, ou les individus se voient attribuer un score social par leur banque, leur employeur ou leur gouvernement. La Chine travaille déjà à l’implémentation, à grande échelle, d’un système automatisé de notation citoyenne. Dans ce contexte, l’homme n’est plus un « animal autobiographique » qui met en discours sa vie mais un flux statistique catégorisable. Il n’y a plus de place pour la jurisprudence, c’est-à-dire pour les mécanismes de justification de la singularité et de la désobéissance.

Des boites noires algorithmiques insondables 

Se détachant du religieux, la modernité a fait émerger la structure étatique comme outil premier de gestion du risque. A travers le « contrat social », l’individu consent à une délégation de souveraineté en échange de sécurité économique et sociale. Avec la numérisation du monde, la gestion de l’incertitude est progressivement déléguée aux algorithmes qui apparaissent comme un nouveau projet de « gouvernementalité » (Foucault).

Le législateur français et européen tente d’encadrer cette automatisation du « contrat social ». Les opérateurs de plateformes numériques sont aujourd’hui soumis à l’obligation de délivrer une information loyale, claire et transparente. Les facteurs influençant le référencement de l’information ou la nature des services en ligne doivent être explicités afin que les utilisateurs puissent les contester. Mais dans la pratique, l’exigence de « redevabilité » des plateformes numériques se heurte à l’obscurité des algorithmes et à l’absence de contre-pouvoir.

Il a fallu attendre le scandale Cambridge Analytica et les révélations sur l'utilisation à des fins politiques des données de 50 millions d'utilisateurs pour que le géant Facebook soit finalement inquiété. En priorisant les contenus viraux, le réseau social a largement contribué à la propagation de fausses nouvelles, de discours haineux, jusqu’à devenir un outil d’ingérence étrangère dans les débats électoraux. Plus généralement, l’ingénierie soutenant la segmentation publicitaire s’est faite au mépris de la protection des données personnelles.

Avec le succès des technologies d'apprentissage machine ou « deep learning », il devient désormais quasiment impossible de rendre intelligible les processus de traitement. Lorsque la machine bat un joueur d’échec, la combinaison des possibles est infinie mais la règle du jeu est établie. Au contraire, avec l’apprentissage machine il n’y a plus de corpus de règles. L'algorithme est ajusté de manière itérative par un jeu continu d’essais-erreurs, c’est-à-dire sans raisonnement structuré.

L’Etat, décrit par Hobbes comme un automate artificiel, se voit désormais concurrencé par des formes techniques étrangères au domaine politique. L’exploitation des données comportementales confère une puissance sans précédent aux entreprises numériques. Cette architecture panoptique augure d’une société inquisitrice. On ne trouve, pour autant, aucun « Big Brother » central clairement identifié. L’autorité ne revêt plus une forme institutionnalisée mais s’exerce à travers une infrastructure algorithmique décentralisée auquel l’individu consent passivement.

Les commentaires de cet article sont à lire ci-après
Articles populaires
Période :
24 heures
7 jours
01.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

02.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

03.

Renault en plein chaos post Ghosn

04.

Ce "petit" problème de ressources humaines qui complique la réindustrialisation de la France

05.

L'arrestation du fils d'El Chapo entraîne des affrontements violents entre la police et le cartel de Sinaloa

06.

Les musulmans persécutés en France ? La réalité par les chiffres

07.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

01.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

02.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

03.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

04.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

05.

Comment Carlos Ghosn a été expulsé de la tête de Renault en quelques heures

06.

Les musulmans persécutés en France ? La réalité par les chiffres

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Voile : toutes celles qui le portent ne sont pas islamistes, mais aucune ne peut décider seule de sa signification

03.

Ressusciter LR : mission impossible pour Christian Jacob ?

04.

Les musulmans persécutés en France ? La réalité par les chiffres

05.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

06.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

Commentaires (0)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
Pas d'autres commentaires