En direct
Best of
Best of du 12 au 18 octobre
En direct
Flash-actu
Articles populaires
Période :
24 heures
7 jours
01.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

02.

Ce que la médiation Blanquer-Taché dit vraiment de LREM

03.

Attention à vos smartphones, les cas de piratage sont de plus en plus fréquents

04.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

05.

Corse : mobilisation pour la lutte contre une mafia... qui n’existe pas

06.

Pourquoi les chiffres officiels sur l’immigration ne décrivent que très approximativement la réalité française

07.

Un chef étoilé mange dans son restaurant : 14 000 euros de redressement de l'Ursaff

01.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

02.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

03.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

04.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

05.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

06.

Les musulmans persécutés en France ? La réalité par les chiffres

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Les musulmans persécutés en France ? La réalité par les chiffres

03.

Voile : toutes celles qui le portent ne sont pas islamistes, mais aucune ne peut décider seule de sa signification

04.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

05.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

06.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

ça vient d'être publié
pépite vidéo > Faits divers
Héroique
Etats-Unis : Il désarme un élève armé d'un fusil à pompe en lui faisant un câlin
il y a 15 heures 49 min
décryptage > Culture
Atlanti-Culture

Théâtre : "Sept ans de réflexion" : Une farce (un peu trop lourde) sur l'adultère

il y a 17 heures 1 min
light > Insolite
Dur à avaler
Un chef étoilé mange dans son restaurant : 14 000 euros de redressement de l'Ursaff
il y a 19 heures 15 min
décryptage > Environnement
Découvrons l'écoféminisme

"Ma planète, ma chatte, sauvons les zones humides" !

il y a 21 heures 46 sec
décryptage > Economie
Experte

Esther Duflo à Bercy, vite. Mais pas comme ministre

il y a 21 heures 34 min
décryptage > France
Mauvais prisme

Pourquoi les chiffres officiels sur l’immigration ne décrivent que très approximativement la réalité française

il y a 21 heures 54 min
décryptage > France
Interdit d'interdire

Pourquoi la France devrait résister à la tentation de répondre par des interdictions à tous les défis qu’elle rencontre

il y a 22 heures 8 min
décryptage > Economie
Manque d’ambition ?

PLF 2020 : l’étonnante stabilité de la ventilation des dépenses publiques françaises à travers le temps

il y a 22 heures 19 min
décryptage > Culture
Culture

"Miroir du temps" d'André Suarès : une occasion précieuse de découvrir une pensée d’une inventivité débridée et salutaire

il y a 1 jour 10 heures
pépite vidéo > International
Ultimatum
Liban : nouvelle journée de mobilisation contre la classe politique et la corruption
il y a 1 jour 12 heures
décryptage > Culture
Atlanti-Culture

"Vania : Une même nuit nous attend tous" : "Oncle Vania" revisité

il y a 16 heures 50 min
décryptage > Culture
Atlanti-Culture

"Le roman de la France- une histoire de la liberté" de Laurent Joffrin : Tome 1, de Vercingétorix à Mirabeau

il y a 17 heures 7 min
décryptage > Education
Tous égaux

Discriminations positive à l’entrée dans les Grandes écoles : l’égalitarisme en mode délire

il y a 20 heures 55 min
décryptage > Economie
Dépenses très privées

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

il y a 21 heures 17 min
décryptage > High-tech
La Minute Tech

Attention à vos smartphones, les cas de piratage sont de plus en plus fréquents

il y a 21 heures 45 min
décryptage > Justice
L'armée des ombres

Corse : mobilisation pour la lutte contre une mafia... qui n’existe pas

il y a 22 heures 52 sec
décryptage > Atlantico business
Atlantico Business

Brexit : si vous avez aimé les deux premières saisons, vous serez passionné par la troisième

il y a 22 heures 16 min
décryptage > Politique
En même temps

Ce que la médiation Blanquer-Taché dit vraiment de LREM

il y a 22 heures 31 min
"Climate change"
Jane Fonda et Sam Waterston ont été arrêtés lors d'une manifestation pour le climat
il y a 1 jour 12 heures
pépites > Justice
Défense
Rachida Dati dénonce une "instrumentalisation" dans le cadre de l'information judiciaire dans l'affaire Ghosn
il y a 1 jour 12 heures
© DENIS CHARLET / AFP
© DENIS CHARLET / AFP
Opacité

Ces algorithmes dont on ne sait rien alors qu’ils régissent nos vies

Publié le 21 septembre 2019
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.

Atlantico.fr : D'après une enquête du Wall Street Journal, sous couvert d'impartialité, le moteur de recherche d'Amazon privilégie les produits de la marque de la plateforme, notamment de manière indirecte. Malgré l'opacité de cet algorithme, est-il possible dans ce cas de prouver cette pratique afin d'envisager une pénalité pour abus de position dominante, comme celle infligée par Margrethe Vestager à Alphabet/Google en 2017? 


Daniel Le Métayer : De manière générale, à défaut de possibilité d’accéder au code informatique du système, le mieux que l’on puisse faire est de le tester, c’est à dire de lui soumettre un grand nombre de requêtes et de tenter, à partir des résultats, d’inférer les facteurs déterminants (les caractéristiques qui ont influencé ce résultat). En l’occurrence, il faudrait soumettre un grand nombre de requêtes à Amazon (recherches de produits) et tenter d’établir, à partir des classements proposés, si la caractéristique « marque Amazon » est déterminante. C’est ce que la Commission Européenne a fait, entre autres, en analysant 1,7 milliards de requêtes sur le moteur de recherche de Google avant de prononcer sa sanction pour abus de position dominante. Cependant, la tâche est difficile si on ne connaît pas les autres caractéristiques, qui seraient de l’ordre d’une centaine pour Amazon, ni leur valeur. Par exemple, on peut connaître la caractéristique critère « vitesse d’expédition » associé à un vendeur, mais probablement pas la caractéristique « volume des ventes » d’un produit qui devrait être un facteur important. De plus, on n’obtiendra pas de preuve absolue mais un faisceau d’indices, des éléments de preuve.

Quelles lacunes de gouvernance identifiez-vous en France et dans l'Union Européenne en ce qui concerne la transparence de tels algorithmes, en tenant compte des prérequis du secret industriel?

Les lacunes sont multiples, aussi bien pour ce qui est de la loi que de son effectivité. Par exemple, la loi pour une République numérique prévoit en France une obligation, pour les opérateurs de plateformes en ligne, de fournir une information « loyale, claire et transparente » sur les modalités de référencement, de classement et de déréférencement des contenus. Le décret d’application précise que ces informations doivent comprendre « les critères de classement par défaut des contenus et des offres de biens et services, ainsi que leur principaux paramètres ». La loi impose aussi d’informer le public sur « l'existence d'une relation contractuelle, d'un lien capitalistique ou d'une rémunération à son profit, dès lors qu'ils influencent le classement ou le référencement des contenus, des biens ou des services proposés ou mis en ligne ». Si la société Amazon a adapté son algorithme pour favoriser ses propres produits, comme l’affirme le Wall Street Journal, elle est en infraction avec cette loi dès lors que les internautes n’en sont pas informés. 

Idéalement, il faudrait renforcer les obligations des opérateurs ou des fournisseurs de systèmes algorithmiques qui ont une incidence importante sur la vie des citoyens, soit sur leur vie quotidienne, soit dans des secteurs critiques comme la justice, la police, ou encore la santé. Avant de déployer ce type de système, il devrait être nécessaire de conduire une « étude d’impact algorithmique », comme cela a été introduit récemment pour le secteur public par une directive canadienne. Par ailleurs ces systèmes devraient pouvoir être audités par une autorité indépendante. Une telle autorité étant tenue à des obligations de confidentialité, l’argument de protection des secrets industriels ou de la propriété intellectuelle ne me paraît pas recevable.

On entend souvent que les algorithmes d'apprentissage (communément appelés intelligences artificielles) complexifient l'exercice de la transparence car leur créateur, par définition, ne les maitrise pas de bout en bout. Est-ce le cas pour tous les algorithmes d'apprentissage? Comment peut-on identifier et prévenir alors les abus?

Tout d’abord, il faut être clair sur le fait que ce n’est pas la complexité liée à l’apprentissage qui est en cause dans les cas évoqués à propos d’Amazon et de Google : il s’agit d’une opacité ou plutôt d’un secret délibérément entretenu et non pas d’une conséquence de choix techniques. Pour ce qui est de la complexité des modèles produits par apprentissage, elle est réelle pour certaines techniques, notamment ce que l’on appelle l’« apprentissage profond » qui est particulièrement performant pour des applications comme l’analyse d’images.

De manière générale, je préfère parler d’explicabilité plutôt que de transparence, car montrer ne signifie pas forcément rendre compréhensible. Il s’agit d’un domaine de recherche actuellement très actif. Selon les domaines d’application, on peut adopter différentes stratégies pour assurer l’explicabilité. Une première option est d’entraîner un algorithmes à produire lui-même des explications de ses résultats ; quand le concepteur n’est pas collaboratif, comme pour Amazon et Google, on peut essayer de produire des explications d’algorithmes a posteriori par des formes de rétro-ingénierie. Dans certains cas, il est possible de mettre au point des techniques d’apprentissage offrant à la fois une précision acceptable et une bonne intelligibilité. Tout dépend des secteurs d’application : par exemple, pour un algorithme utilisé par un juge ou un médecin, une absence totale d’intelligibilité paraît difficile à accepter ; pour un algorithme de jeu de Go, il ne s’agit pas d’une exigence essentielle.

Propos recueillis par Aurélie Buytaert

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Thématiques :
Articles populaires
Période :
24 heures
7 jours
01.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

02.

Ce que la médiation Blanquer-Taché dit vraiment de LREM

03.

Attention à vos smartphones, les cas de piratage sont de plus en plus fréquents

04.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

05.

Corse : mobilisation pour la lutte contre une mafia... qui n’existe pas

06.

Pourquoi les chiffres officiels sur l’immigration ne décrivent que très approximativement la réalité française

07.

Un chef étoilé mange dans son restaurant : 14 000 euros de redressement de l'Ursaff

01.

Agression sexuelle : ça s'aggrave pour Patrick Bruel ; 25 ans et toutes ses dents, Madonna a un nouveau toyboy ; Céline Dion rate son 1er concert et ne sait plus où elle en est ; Les secrets du revirement de Laeticia Hallyday

02.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

03.

Les Mormons : l'influence du cercle des conseillers d'Emmanuel Macron

04.

Petit coup de projecteur sur le classement très discret des vrais salaires des hauts-fonctionnaires

05.

Privatisations : On pourra acheter des actions de la FDJ mais ça ne sera pas le loto

06.

Les musulmans persécutés en France ? La réalité par les chiffres

01.

Emmanuel Macron saura-t-il éviter le piège tendu par les islamistes (et aggravé par les idiots utiles du communautarisme) ?

02.

Les musulmans persécutés en France ? La réalité par les chiffres

03.

Voile : toutes celles qui le portent ne sont pas islamistes, mais aucune ne peut décider seule de sa signification

04.

Les policiers arrêtent un jeune de 17 ans en pleine relation sexuelle avec une jument

05.

Omar Sy, Pascal Boniface, Rokhaya Diallo, pourriez-vous regarder la photo d'Havrin Khalaf, violée et assassinée par les supplétifs d'Erdogan ?

06.

Quand Eric Zemmour déclare que les homosexuels "choisissent leur sexualité"

Commentaires (3)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
zelectron
- 21/09/2019 - 14:46
ou plutôt le calcul itératif . . .
sans compter les probas et hop le tuor est joué : voilà l'"intelligence artificielle"
A quand un nouveau nom pour un progrès epsilonesque que les marketing vont encenser avec toute la dithyrambe comme il se doit .
Citoyen-libre
- 21/09/2019 - 14:21
Les algorithmes
Ce qui extrêmement dangereux et quelque part nouveau, c'est leur puissance de calcul. Sans ces algorithmes, la réforme des retraites ne pourrait avoir lieu. Après avoir révolutionner les salles de marché, qui font que des centaines de milliards sont échangés par jour et partout sur la planète, avec des gains inimaginables, ils viennent maintenant s'imposer dans les filières administratives. Parce que là aussi, il y a du fric à gagner. Les humains n'ont pas cette capacité de calcul, et ainsi pour pouvoir recalculer les 50 systèmes de retraites différents actuellement en place, et bien d'autres choses. Et si la réforme des retraites est voulue, c'est que les algorithmes ont établi les schémas pour payer moins. C'est aussi logique que çà. Le rôle du ministre va être de faire avaler les couleuvres : Equité, justice, bla bla bla. Mais ça, personne ne le dit ou ne l'a compris. Nous ne sommes qu'au début de leur puissance inimaginable. Google vient d'élaborer un ordinateur quantique : 3 minutes et 20 secondes pour un calcul qui prend 10 000 ans par un ordinateur actuel......La vraie révolution du monde est là : sournoise et silencieuse.
J'accuse
- 21/09/2019 - 11:27
Les gouvernements sont plus opaques et mafieux que les GAFA
Les seuls algorithmes qui régissent nos vies sont dans notre tête; ceux qui les influencent le plus sont les politiciens et les journalistes, les premiers avec leurs impôts et leurs mensonges, les seconds avec leurs articles partiaux et idéologisés.
Qu'un vendeur s'efforce de privilégier ses propres produits est une évidence et tout ce qu'il y a de plus naturel. C'est exactement ce que font les supermarchés avec ce qu'ils présentent dans les rayons. Vouloir condamner une pratique légitime est absurde. Quel est le vrai procès qu'on veut faire à Amazon ?
En tant que client régulier d'Amazon, j'y trouve généralement ce que je cherche à un prix qui me convient: que demander de plus ? Ceux à qui ça ne plaît pas peuvent acheter ailleurs.
Les amendes infligées par l'UE ou les gouvernements ne sont qu'une façon de leur soutirer du fric pour des raisons douteuses. C'est un racket, légal parce que ce sont eux qui font les lois.