En direct
Best of
Best of du 8 au 14 août
En direct
Articles populaires
Période :
24 heures
7 jours
01.

"Pourquoi les Africains qui se disent victimes du racisme en France ne retournent-ils pas en Afrique ?"

02.

Ces 40% de contaminés asymptomatiques qui pourraient être la clé contre la Covid-19

03.

Alerte à la pseudo justice sociale : cette culture de l’excuse qui (co)produit la violence qui nous envahit

04.

Rimbaud était une "caillera" ! C’est un prestigieux spécialiste de son œuvre du nom de Yassine Belattar qui nous l’apprend

05.

Pourquoi une élection de Joe Biden ne rétablirait pas les relations transatlantiques du monde d’avant

06.

L’Europe a-t-elle déjà perdu face à la Turquie ?

07.

Islamistes et liberté d’expression : ça empire depuis Charlie; Affaire Girard : Anne Hidalgo se venge des Verts; BHL, Justine Lévy, Carla Bruni : Raphaël Enthoven prend sa (sacrée) revanche; Le MoDem lorgne sur les députés LREM à la dérive

01.

La dégringolade de la France dans le top 10 des puissances économiques mondiales est-il purement mécanique (lié à notre démographie et au développement des pays sous-développés à forte population) ou le reflet d’un déclin ?

02.

Explosion de la violence en France : comment expliquer la faillite de l’Etat (puisque le Hezbollah n’y est pour rien ici...) ?

03.

Vaccin contre la Covid-19 : pourquoi les pérégrinations de la recherche russe pourraient se révéler crédibles

04.

Du glyphosate concentré utilisé comme arme chimique pour détruire une exploitation bio

05.

Canicule : petite liste des aliments les plus risqués à la consommation quand le thermomètre monte

06.

Le télétravail va-t-il provoquer la fin de l'invulnérabilité des cadres sur le marché mondial du travail ?

01.

Explosion de la violence en France : comment expliquer la faillite de l’Etat (puisque le Hezbollah n’y est pour rien ici...) ?

02.

Zemmour est « sous-humain » (c'est à dire un sous-homme) ! Et c’est un surhomme qui le dit…

03.

Masques et crise de la masculinité : les ingrédients du cocktail explosif de violences en série

04.

La dégringolade de la France dans le top 10 des puissances économiques mondiales est-il purement mécanique (lié à notre démographie et au développement des pays sous-développés à forte population) ou le reflet d’un déclin ?

05.

Ce qui se passe pour notre corps quand on arrête l’alcool

06.

Cancel culture : pourquoi les pires dérives du XXe siècle nous menacent à nouveau

ça vient d'être publié
décryptage > Culture
Atlanti Culture

"Lectures d'été" : "A crier dans les ruines" d'Alexandra Koszelyk, un roman féerique et gracieux sur Tchernobyl

il y a 4 min 55 sec
rendez-vous > International
Géopolitico-scanner
La haine de l'Occident : des BLM à la Turquie néo-ottomane d'Erdogan, entretien avec Pierre Rehov
il y a 2 heures 12 min
pépites > International
Vague de critiques
L'Autorité palestinienne, l’Iran et la Turquie rejettent l'accord entre Israël et les Emirats arabes unis
il y a 4 heures 41 min
light > Culture
Succès fou
Le livre de Nicolas Sarkozy, Le Temps des tempêtes, devient officiellement le best-seller de l'été 2020
il y a 6 heures 30 min
pépite vidéo > Europe
Distanciation sociale
Interdiction en Galice : la fumée de cigarette peut-elle transmettre le coronavirus ?
il y a 8 heures 43 min
décryptage > France
Ecoutons-là

"Pourquoi les Africains qui se disent victimes du racisme en France ne retournent-ils pas en Afrique ?"

il y a 9 heures 54 min
décryptage > Economie
Résilience face au climat

Canicules, inondations et tempêtes : la vulnérabilité humaine et économique diminue avec les années

il y a 10 heures 57 min
décryptage > Culture
Atlanti Culture

"Lectures d'été" : "Les Jungles rouges" de Jean-Noël Orengo, les rêves suscités par l’Indochine et l’Extrême-Orient, de 1924 à 1951

il y a 1 jour 21 min
pépite vidéo > Consommation
Parfums de l'été
Paris : Matthieu Carlin, le chef pâtissier du Crillon, propose les glaces du célèbre palace dans un food truck
il y a 1 jour 1 heure
light > France
Lieu mythique
Covid-19 : Sénéquier, le célèbre établissement de Saint-Tropez, ferme temporairement
il y a 1 jour 3 heures
pépite vidéo > France
Vive émotion
Retrouvez l’hommage de Jean Castex aux six humanitaires français tués au Niger
il y a 1 heure 40 min
pépites > International
Noms d'oiseaux
La Turquie accuse la France de se comporter "comme un caïd" en Méditerranée
il y a 2 heures 51 min
pépites > Politique
Couple franco-allemand
Emmanuel Macron va recevoir Angela Merkel au Fort de Brégançon le 20 août prochain
il y a 5 heures 25 min
pépites > Santé
Endiguer l'épidémie
Covid-19 : Jérôme Salomon estime que le "virus sera toujours là" à la rentrée et confirme une baisse du prix des masques
il y a 7 heures 2 min
décryptage > Santé
Nouvel espoir

Ces 40% de contaminés asymptomatiques qui pourraient être la clé contre la Covid-19

il y a 9 heures 9 min
décryptage > Société
Nihilisme sociétal

Alerte à la pseudo justice sociale : cette culture de l’excuse qui (co)produit la violence qui nous envahit

il y a 10 heures 20 min
décryptage > International
Maison Blanche

Pourquoi une élection de Joe Biden ne rétablirait pas les relations transatlantiques du monde d’avant

il y a 11 heures 12 min
pépites > France
Acted
Français tués au Niger : Jean Castex va présider une cérémonie d’hommage ce vendredi
il y a 1 jour 45 min
pépites > International
Diplomatie
Donald Trump annonce un "accord de paix historique" entre Israël et les Emirats arabes unis
il y a 1 jour 1 heure
pépites > Environnement
Pollution
Une plainte a été déposée contre Nestlé pour pollution après la mort de milliers de poissons dans les Ardennes
il y a 1 jour 3 heures
© DENIS CHARLET / AFP
© DENIS CHARLET / AFP
Opacité

Ces algorithmes dont on ne sait rien alors qu’ils régissent nos vies

Publié le 21 septembre 2019
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.
Daniel Le Métayer
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.

Atlantico.fr : D'après une enquête du Wall Street Journal, sous couvert d'impartialité, le moteur de recherche d'Amazon privilégie les produits de la marque de la plateforme, notamment de manière indirecte. Malgré l'opacité de cet algorithme, est-il possible dans ce cas de prouver cette pratique afin d'envisager une pénalité pour abus de position dominante, comme celle infligée par Margrethe Vestager à Alphabet/Google en 2017? 


Daniel Le Métayer : De manière générale, à défaut de possibilité d’accéder au code informatique du système, le mieux que l’on puisse faire est de le tester, c’est à dire de lui soumettre un grand nombre de requêtes et de tenter, à partir des résultats, d’inférer les facteurs déterminants (les caractéristiques qui ont influencé ce résultat). En l’occurrence, il faudrait soumettre un grand nombre de requêtes à Amazon (recherches de produits) et tenter d’établir, à partir des classements proposés, si la caractéristique « marque Amazon » est déterminante. C’est ce que la Commission Européenne a fait, entre autres, en analysant 1,7 milliards de requêtes sur le moteur de recherche de Google avant de prononcer sa sanction pour abus de position dominante. Cependant, la tâche est difficile si on ne connaît pas les autres caractéristiques, qui seraient de l’ordre d’une centaine pour Amazon, ni leur valeur. Par exemple, on peut connaître la caractéristique critère « vitesse d’expédition » associé à un vendeur, mais probablement pas la caractéristique « volume des ventes » d’un produit qui devrait être un facteur important. De plus, on n’obtiendra pas de preuve absolue mais un faisceau d’indices, des éléments de preuve.

Quelles lacunes de gouvernance identifiez-vous en France et dans l'Union Européenne en ce qui concerne la transparence de tels algorithmes, en tenant compte des prérequis du secret industriel?

Les lacunes sont multiples, aussi bien pour ce qui est de la loi que de son effectivité. Par exemple, la loi pour une République numérique prévoit en France une obligation, pour les opérateurs de plateformes en ligne, de fournir une information « loyale, claire et transparente » sur les modalités de référencement, de classement et de déréférencement des contenus. Le décret d’application précise que ces informations doivent comprendre « les critères de classement par défaut des contenus et des offres de biens et services, ainsi que leur principaux paramètres ». La loi impose aussi d’informer le public sur « l'existence d'une relation contractuelle, d'un lien capitalistique ou d'une rémunération à son profit, dès lors qu'ils influencent le classement ou le référencement des contenus, des biens ou des services proposés ou mis en ligne ». Si la société Amazon a adapté son algorithme pour favoriser ses propres produits, comme l’affirme le Wall Street Journal, elle est en infraction avec cette loi dès lors que les internautes n’en sont pas informés. 

Idéalement, il faudrait renforcer les obligations des opérateurs ou des fournisseurs de systèmes algorithmiques qui ont une incidence importante sur la vie des citoyens, soit sur leur vie quotidienne, soit dans des secteurs critiques comme la justice, la police, ou encore la santé. Avant de déployer ce type de système, il devrait être nécessaire de conduire une « étude d’impact algorithmique », comme cela a été introduit récemment pour le secteur public par une directive canadienne. Par ailleurs ces systèmes devraient pouvoir être audités par une autorité indépendante. Une telle autorité étant tenue à des obligations de confidentialité, l’argument de protection des secrets industriels ou de la propriété intellectuelle ne me paraît pas recevable.

On entend souvent que les algorithmes d'apprentissage (communément appelés intelligences artificielles) complexifient l'exercice de la transparence car leur créateur, par définition, ne les maitrise pas de bout en bout. Est-ce le cas pour tous les algorithmes d'apprentissage? Comment peut-on identifier et prévenir alors les abus?

Tout d’abord, il faut être clair sur le fait que ce n’est pas la complexité liée à l’apprentissage qui est en cause dans les cas évoqués à propos d’Amazon et de Google : il s’agit d’une opacité ou plutôt d’un secret délibérément entretenu et non pas d’une conséquence de choix techniques. Pour ce qui est de la complexité des modèles produits par apprentissage, elle est réelle pour certaines techniques, notamment ce que l’on appelle l’« apprentissage profond » qui est particulièrement performant pour des applications comme l’analyse d’images.

De manière générale, je préfère parler d’explicabilité plutôt que de transparence, car montrer ne signifie pas forcément rendre compréhensible. Il s’agit d’un domaine de recherche actuellement très actif. Selon les domaines d’application, on peut adopter différentes stratégies pour assurer l’explicabilité. Une première option est d’entraîner un algorithmes à produire lui-même des explications de ses résultats ; quand le concepteur n’est pas collaboratif, comme pour Amazon et Google, on peut essayer de produire des explications d’algorithmes a posteriori par des formes de rétro-ingénierie. Dans certains cas, il est possible de mettre au point des techniques d’apprentissage offrant à la fois une précision acceptable et une bonne intelligibilité. Tout dépend des secteurs d’application : par exemple, pour un algorithme utilisé par un juge ou un médecin, une absence totale d’intelligibilité paraît difficile à accepter ; pour un algorithme de jeu de Go, il ne s’agit pas d’une exigence essentielle.

Propos recueillis par Aurélie Buytaert

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Thématiques :
Commentaires (3)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
zelectron
- 21/09/2019 - 14:46
ou plutôt le calcul itératif . . .
sans compter les probas et hop le tuor est joué : voilà l'"intelligence artificielle"
A quand un nouveau nom pour un progrès epsilonesque que les marketing vont encenser avec toute la dithyrambe comme il se doit .
JBL
- 21/09/2019 - 14:21
Les algorithmes
Ce qui extrêmement dangereux et quelque part nouveau, c'est leur puissance de calcul. Sans ces algorithmes, la réforme des retraites ne pourrait avoir lieu. Après avoir révolutionner les salles de marché, qui font que des centaines de milliards sont échangés par jour et partout sur la planète, avec des gains inimaginables, ils viennent maintenant s'imposer dans les filières administratives. Parce que là aussi, il y a du fric à gagner. Les humains n'ont pas cette capacité de calcul, et ainsi pour pouvoir recalculer les 50 systèmes de retraites différents actuellement en place, et bien d'autres choses. Et si la réforme des retraites est voulue, c'est que les algorithmes ont établi les schémas pour payer moins. C'est aussi logique que çà. Le rôle du ministre va être de faire avaler les couleuvres : Equité, justice, bla bla bla. Mais ça, personne ne le dit ou ne l'a compris. Nous ne sommes qu'au début de leur puissance inimaginable. Google vient d'élaborer un ordinateur quantique : 3 minutes et 20 secondes pour un calcul qui prend 10 000 ans par un ordinateur actuel......La vraie révolution du monde est là : sournoise et silencieuse.
J'accuse
- 21/09/2019 - 11:27
Les gouvernements sont plus opaques et mafieux que les GAFA
Les seuls algorithmes qui régissent nos vies sont dans notre tête; ceux qui les influencent le plus sont les politiciens et les journalistes, les premiers avec leurs impôts et leurs mensonges, les seconds avec leurs articles partiaux et idéologisés.
Qu'un vendeur s'efforce de privilégier ses propres produits est une évidence et tout ce qu'il y a de plus naturel. C'est exactement ce que font les supermarchés avec ce qu'ils présentent dans les rayons. Vouloir condamner une pratique légitime est absurde. Quel est le vrai procès qu'on veut faire à Amazon ?
En tant que client régulier d'Amazon, j'y trouve généralement ce que je cherche à un prix qui me convient: que demander de plus ? Ceux à qui ça ne plaît pas peuvent acheter ailleurs.
Les amendes infligées par l'UE ou les gouvernements ne sont qu'une façon de leur soutirer du fric pour des raisons douteuses. C'est un racket, légal parce que ce sont eux qui font les lois.