En direct
Best of
Best of du 16 au 22 novembre
En direct
Flash-actu
Articles populaires
Période :
24 heures
7 jours
01.

Vous pensez que Gauguin était un grand peintre ? Erreur : c'était un prédateur pédophile !

02.

Misérable, totalitaire et islamophobe, la France devient le premier pays d’Europe pour les demandes d’asile

03.

Ségolène Royal pourra-t-elle échapper à une saisine du Parquet national financier ?

04.

Michel Platero : "si on veut faire baisser les prix de l’immobilier, il faut décorréler la propriété du bâti de celle du foncier"

05.

Cette inquiétante confusion qui s’installe dans les déclarations de la BCE

06.

Ce dérapage tellement prévisible du cofondateur d’Extinction Rebellion sur la Shoah

07.

Le révélateur Whirlpool : mais quelle est maintenant la vision économique d’Emmanuel Macron ?

01.

La privatisation de FDJ : vrai succès politique mais erreur économique

02.

Energie : l'arrêt du nucléaire au Japon responsable de beaucoup plus de morts que la catastrophe de Fukushima

03.

Ségolène Royal pourra-t-elle échapper à une saisine du Parquet national financier ?

04.

Ile-de-France : un nouveau pass Navigo plus pratique pour les usagers occasionnels

05.

Le cerveau : ce grand régulateur de la douleur

06.

Tous les chemins mènent à Rome : mais celui de Zemmour est quand même un peu tortueux...

01.

Il m’arrive parfois d’avoir honte pour la France…

02.

Et à part l’ordre ? Radioscopie de que pourrait être une candidature Pierre de Villiers en 2022

03.

Je nique Conrad et... ceux qui l'écoutent

04.

Tous les chemins mènent à Rome : mais celui de Zemmour est quand même un peu tortueux...

05.

Quel réel bilan énergétique et environnemental quand vos ados écolos imposent leurs exigences à la maison ?

06.

Le fétichisme du diplôme, facteur trop souvent oublié du blocage de l’ascenseur social français

ça vient d'être publié
pépites > Politique
Réforme
Grève du 5 décembre : Emmanuel Macron considère que la mobilisation est "avant tout contre la fin des régimes spéciaux"
il y a 5 heures 37 min
pépites > Politique
Union des droites
Les Républicains : une procédure d'exclusion vise Erik Tegnér
il y a 10 heures 44 min
pépites > France
Journée de mobilisation
FNSEA – Monde agricole : 1.000 tracteurs vont converger vers Paris le mercredi 27 novembre
il y a 11 heures 24 min
décryptage > Culture
Atlanti Culture

"Suite française" de Irène Némirovsky : adaptation méritoire d’une œuvre, dont l’auteure puis l’exhumation littéraire firent grand bruit en leur temps

il y a 11 heures 52 min
rendez-vous > Consommation
Atlantic-tac
Quand la Belle au bois dormant noue sa cravate et quand s’allument les aurores boréales : c’est l’actualité des montres à la fin de l’automne
il y a 13 heures 42 min
décryptage > Société
L’enfer, c’est nous autres

Misérable, totalitaire et islamophobe, la France devient le premier pays d’Europe pour les demandes d’asile

il y a 15 heures 23 min
décryptage > Société
Pauvreté

Face aux inégalités : s’engager dans une dynamique de créativité

il y a 16 heures 49 min
décryptage > Culture
Touche pas à ma vahiné…

Vous pensez que Gauguin était un grand peintre ? Erreur : c'était un prédateur pédophile !

il y a 17 heures 23 min
rendez-vous > International
Géopolitico-scanner
"Paranoïsation", "désassimilation" et communautarisme : l’antiracisme dévoyé au profit d'un projet de conquête islamiste
il y a 18 heures 6 min
décryptage > Environnement
Roger Hallam

Ce dérapage tellement prévisible du cofondateur d’Extinction Rebellion sur la Shoah

il y a 19 heures 2 min
décryptage > Media
L’art de la punchline

Un 21 novembre en tweets : Jean-Sébastien Ferjou en 280 caractères

il y a 6 heures 21 min
Justice
Carlos Ghosn et son épouse Carole ont pu enfin communiquer pour la première fois en sept mois
il y a 11 heures 7 min
décryptage > Culture
Atlanti Culture

"Les renards et les lions" de Marcello Simonetta : le destin hors norme des fils de Laurent de Médicis

il y a 11 heures 45 min
décryptage > Culture
Atlanti Culture

"Pour l'amour des livres" de Michel Le Bris : une amitié entre le voyage et la littérature

il y a 11 heures 59 min
pépite vidéo > Politique
Solutions
Dialogue sous tension entre Emmanuel Macron et les anciens salariés de Whirlpool à Amiens
il y a 14 heures 56 min
pépites > Environnement
Pollution
Réchauffement climatique : les plans de la Chine sur les centrales à charbon menacent les objectifs de Paris sur le climat
il y a 15 heures 54 min
rendez-vous > France
Zone Franche
Plus que jamais, le "pognon de dingue" coule à flots mais les gens sont toujours aussi pauvres
il y a 17 heures 10 min
décryptage > Economie
Insécurité économique

Cette inquiétante confusion qui s’installe dans les déclarations de la BCE

il y a 17 heures 53 min
décryptage > Education
Réussite

Le fétichisme du diplôme, facteur trop souvent oublié du blocage de l’ascenseur social français

il y a 18 heures 48 min
décryptage > Politique
Promesse

Le révélateur Whirlpool : mais quelle est maintenant la vision économique d’Emmanuel Macron ?

il y a 19 heures 19 min
© DENIS CHARLET / AFP
© DENIS CHARLET / AFP
Opacité

Ces algorithmes dont on ne sait rien alors qu’ils régissent nos vies

Publié le 21 septembre 2019
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.

Atlantico.fr : D'après une enquête du Wall Street Journal, sous couvert d'impartialité, le moteur de recherche d'Amazon privilégie les produits de la marque de la plateforme, notamment de manière indirecte. Malgré l'opacité de cet algorithme, est-il possible dans ce cas de prouver cette pratique afin d'envisager une pénalité pour abus de position dominante, comme celle infligée par Margrethe Vestager à Alphabet/Google en 2017? 


Daniel Le Métayer : De manière générale, à défaut de possibilité d’accéder au code informatique du système, le mieux que l’on puisse faire est de le tester, c’est à dire de lui soumettre un grand nombre de requêtes et de tenter, à partir des résultats, d’inférer les facteurs déterminants (les caractéristiques qui ont influencé ce résultat). En l’occurrence, il faudrait soumettre un grand nombre de requêtes à Amazon (recherches de produits) et tenter d’établir, à partir des classements proposés, si la caractéristique « marque Amazon » est déterminante. C’est ce que la Commission Européenne a fait, entre autres, en analysant 1,7 milliards de requêtes sur le moteur de recherche de Google avant de prononcer sa sanction pour abus de position dominante. Cependant, la tâche est difficile si on ne connaît pas les autres caractéristiques, qui seraient de l’ordre d’une centaine pour Amazon, ni leur valeur. Par exemple, on peut connaître la caractéristique critère « vitesse d’expédition » associé à un vendeur, mais probablement pas la caractéristique « volume des ventes » d’un produit qui devrait être un facteur important. De plus, on n’obtiendra pas de preuve absolue mais un faisceau d’indices, des éléments de preuve.

Quelles lacunes de gouvernance identifiez-vous en France et dans l'Union Européenne en ce qui concerne la transparence de tels algorithmes, en tenant compte des prérequis du secret industriel?

Les lacunes sont multiples, aussi bien pour ce qui est de la loi que de son effectivité. Par exemple, la loi pour une République numérique prévoit en France une obligation, pour les opérateurs de plateformes en ligne, de fournir une information « loyale, claire et transparente » sur les modalités de référencement, de classement et de déréférencement des contenus. Le décret d’application précise que ces informations doivent comprendre « les critères de classement par défaut des contenus et des offres de biens et services, ainsi que leur principaux paramètres ». La loi impose aussi d’informer le public sur « l'existence d'une relation contractuelle, d'un lien capitalistique ou d'une rémunération à son profit, dès lors qu'ils influencent le classement ou le référencement des contenus, des biens ou des services proposés ou mis en ligne ». Si la société Amazon a adapté son algorithme pour favoriser ses propres produits, comme l’affirme le Wall Street Journal, elle est en infraction avec cette loi dès lors que les internautes n’en sont pas informés. 

Idéalement, il faudrait renforcer les obligations des opérateurs ou des fournisseurs de systèmes algorithmiques qui ont une incidence importante sur la vie des citoyens, soit sur leur vie quotidienne, soit dans des secteurs critiques comme la justice, la police, ou encore la santé. Avant de déployer ce type de système, il devrait être nécessaire de conduire une « étude d’impact algorithmique », comme cela a été introduit récemment pour le secteur public par une directive canadienne. Par ailleurs ces systèmes devraient pouvoir être audités par une autorité indépendante. Une telle autorité étant tenue à des obligations de confidentialité, l’argument de protection des secrets industriels ou de la propriété intellectuelle ne me paraît pas recevable.

On entend souvent que les algorithmes d'apprentissage (communément appelés intelligences artificielles) complexifient l'exercice de la transparence car leur créateur, par définition, ne les maitrise pas de bout en bout. Est-ce le cas pour tous les algorithmes d'apprentissage? Comment peut-on identifier et prévenir alors les abus?

Tout d’abord, il faut être clair sur le fait que ce n’est pas la complexité liée à l’apprentissage qui est en cause dans les cas évoqués à propos d’Amazon et de Google : il s’agit d’une opacité ou plutôt d’un secret délibérément entretenu et non pas d’une conséquence de choix techniques. Pour ce qui est de la complexité des modèles produits par apprentissage, elle est réelle pour certaines techniques, notamment ce que l’on appelle l’« apprentissage profond » qui est particulièrement performant pour des applications comme l’analyse d’images.

De manière générale, je préfère parler d’explicabilité plutôt que de transparence, car montrer ne signifie pas forcément rendre compréhensible. Il s’agit d’un domaine de recherche actuellement très actif. Selon les domaines d’application, on peut adopter différentes stratégies pour assurer l’explicabilité. Une première option est d’entraîner un algorithmes à produire lui-même des explications de ses résultats ; quand le concepteur n’est pas collaboratif, comme pour Amazon et Google, on peut essayer de produire des explications d’algorithmes a posteriori par des formes de rétro-ingénierie. Dans certains cas, il est possible de mettre au point des techniques d’apprentissage offrant à la fois une précision acceptable et une bonne intelligibilité. Tout dépend des secteurs d’application : par exemple, pour un algorithme utilisé par un juge ou un médecin, une absence totale d’intelligibilité paraît difficile à accepter ; pour un algorithme de jeu de Go, il ne s’agit pas d’une exigence essentielle.

Propos recueillis par Aurélie Buytaert

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Thématiques :
Articles populaires
Période :
24 heures
7 jours
01.

Vous pensez que Gauguin était un grand peintre ? Erreur : c'était un prédateur pédophile !

02.

Misérable, totalitaire et islamophobe, la France devient le premier pays d’Europe pour les demandes d’asile

03.

Ségolène Royal pourra-t-elle échapper à une saisine du Parquet national financier ?

04.

Michel Platero : "si on veut faire baisser les prix de l’immobilier, il faut décorréler la propriété du bâti de celle du foncier"

05.

Cette inquiétante confusion qui s’installe dans les déclarations de la BCE

06.

Ce dérapage tellement prévisible du cofondateur d’Extinction Rebellion sur la Shoah

07.

Le révélateur Whirlpool : mais quelle est maintenant la vision économique d’Emmanuel Macron ?

01.

La privatisation de FDJ : vrai succès politique mais erreur économique

02.

Energie : l'arrêt du nucléaire au Japon responsable de beaucoup plus de morts que la catastrophe de Fukushima

03.

Ségolène Royal pourra-t-elle échapper à une saisine du Parquet national financier ?

04.

Ile-de-France : un nouveau pass Navigo plus pratique pour les usagers occasionnels

05.

Le cerveau : ce grand régulateur de la douleur

06.

Tous les chemins mènent à Rome : mais celui de Zemmour est quand même un peu tortueux...

01.

Il m’arrive parfois d’avoir honte pour la France…

02.

Et à part l’ordre ? Radioscopie de que pourrait être une candidature Pierre de Villiers en 2022

03.

Je nique Conrad et... ceux qui l'écoutent

04.

Tous les chemins mènent à Rome : mais celui de Zemmour est quand même un peu tortueux...

05.

Quel réel bilan énergétique et environnemental quand vos ados écolos imposent leurs exigences à la maison ?

06.

Le fétichisme du diplôme, facteur trop souvent oublié du blocage de l’ascenseur social français

Commentaires (3)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
zelectron
- 21/09/2019 - 14:46
ou plutôt le calcul itératif . . .
sans compter les probas et hop le tuor est joué : voilà l'"intelligence artificielle"
A quand un nouveau nom pour un progrès epsilonesque que les marketing vont encenser avec toute la dithyrambe comme il se doit .
JBL
- 21/09/2019 - 14:21
Les algorithmes
Ce qui extrêmement dangereux et quelque part nouveau, c'est leur puissance de calcul. Sans ces algorithmes, la réforme des retraites ne pourrait avoir lieu. Après avoir révolutionner les salles de marché, qui font que des centaines de milliards sont échangés par jour et partout sur la planète, avec des gains inimaginables, ils viennent maintenant s'imposer dans les filières administratives. Parce que là aussi, il y a du fric à gagner. Les humains n'ont pas cette capacité de calcul, et ainsi pour pouvoir recalculer les 50 systèmes de retraites différents actuellement en place, et bien d'autres choses. Et si la réforme des retraites est voulue, c'est que les algorithmes ont établi les schémas pour payer moins. C'est aussi logique que çà. Le rôle du ministre va être de faire avaler les couleuvres : Equité, justice, bla bla bla. Mais ça, personne ne le dit ou ne l'a compris. Nous ne sommes qu'au début de leur puissance inimaginable. Google vient d'élaborer un ordinateur quantique : 3 minutes et 20 secondes pour un calcul qui prend 10 000 ans par un ordinateur actuel......La vraie révolution du monde est là : sournoise et silencieuse.
J'accuse
- 21/09/2019 - 11:27
Les gouvernements sont plus opaques et mafieux que les GAFA
Les seuls algorithmes qui régissent nos vies sont dans notre tête; ceux qui les influencent le plus sont les politiciens et les journalistes, les premiers avec leurs impôts et leurs mensonges, les seconds avec leurs articles partiaux et idéologisés.
Qu'un vendeur s'efforce de privilégier ses propres produits est une évidence et tout ce qu'il y a de plus naturel. C'est exactement ce que font les supermarchés avec ce qu'ils présentent dans les rayons. Vouloir condamner une pratique légitime est absurde. Quel est le vrai procès qu'on veut faire à Amazon ?
En tant que client régulier d'Amazon, j'y trouve généralement ce que je cherche à un prix qui me convient: que demander de plus ? Ceux à qui ça ne plaît pas peuvent acheter ailleurs.
Les amendes infligées par l'UE ou les gouvernements ne sont qu'une façon de leur soutirer du fric pour des raisons douteuses. C'est un racket, légal parce que ce sont eux qui font les lois.