En direct
Best of
Best of du 14 au 20 novembre
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Rachida Dati : "Nous sommes à deux doigts d'une explosion de notre pays"

02.

La Chine s'est éveillée, le monde peut trembler

03.

Voilà les meilleurs gadgets à acheter pour se créer un home cinéma de compétition pour le confinement

04.

Doubler le PIB chinois d’ici 2035 ? Voilà pourquoi l’objectif de Xi Jinping est un pur fantasme

05.

Russie-Turquie-Iran : la triplette géopolitique qui a réussi à profondément changer notre monde sans que nous réagissions

06.

Qui a peur de Jean-Michel Blanquer ?

07.

Covid-19 : mais pourquoi l’isolement des cas positifs est-il si difficile en France ?

01.

Julie Gayet tente de sauver son couple, Ingrid Chauvin liquide le sien, celui de Nabilla tangue; Sophie Marceau fait des câlins aux arbres, Aya Nakamura se la pète; Meghan Markle & Katy Perry, voisines et ennemies, Kylie & Kendall Jenner soeurs et idem

02.

Boycott de CNews : quand Decathlon veut faire du profit sur le dos de la liberté d’expression

03.

Carnage en vue sur les banques européennes ?

04.

Qui a peur de Jean-Michel Blanquer ?

05.

Quand Barack Obama démontre que Nicolas Sarkozy est juif

06.

Covid-19 : radioscopie des racines de la faillite morale de l’Etat français

01.

Quand Barack Obama démontre que Nicolas Sarkozy est juif

02.

Covid-19 : radioscopie des racines de la faillite morale de l’Etat français

03.

Barbara Pompili et Eric Dupond-Moretti annoncent la création d'un "délit d'écocide"

04.

Aucun lien entre le terrorisme et l'immigration !

05.

Projet de loi séparatisme : un arsenal qui alterne entre le trop et le trop peu

06.

Boycott de CNews : quand Decathlon veut faire du profit sur le dos de la liberté d’expression

ça vient d'être publié
pépite vidéo > France
Déconfinement en trois étapes
Covid-19 : retrouvez l’intégralité de l’allocution d’Emmanuel Macron sur le déconfinement
il y a 7 heures 9 min
pépites > Politique
Feu vert en première lecture
Loi sur la "sécurité globale" : l'Assemblée nationale adopte le texte controversé, à 388 voix pour et 104 voix contre
il y a 10 heures 11 min
pépites > Santé
Crise de défiance
Coronavirus : un quart des Italiens croient aux théories complotistes sur la pandémie
il y a 11 heures 2 min
pépites > Politique
Premier ministre
Loi "sécurité globale" : Jean Castex va saisir le Conseil constitutionnel sur l'article 24
il y a 12 heures 33 min
décryptage > Culture
Atlanti Culture

"Putzi - Le pianiste d’Hitler" de Thomas Snégaroff : un petit bonhomme au service de l’ascension d’Hitler, un portrait éclairant largement documenté

il y a 14 heures 19 min
décryptage > International
Le point de vue de Dov Zerah

La Chine s'est éveillée, le monde peut trembler

il y a 15 heures 13 min
décryptage > Culture
Repenser nos modèles

L’expérience immersive : pour sauver la culture et le savoir

il y a 16 heures 29 min
décryptage > Santé
Lieux de contaminations ?

Réouverture des petits commerces, restaurants, lieux de cultes et culturels… : voilà pourquoi (et comment ) le risque sanitaire peut être maîtrisé

il y a 17 heures 9 min
pépite vidéo > Politique
"La France se disloque"
Rachida Dati : "Nous sommes à deux doigts d'une explosion de notre pays"
il y a 17 heures 40 min
light > High-tech
Bug
Des clients britanniques d'Amazon acheteurs de la nouvelle PlayStation 5 se sont vus livrer à la place des objets qui n'ont aucun rapport avec elle
il y a 18 heures 14 min
pépites > Politique
Calendrier du déconfinement
Covid-19 : Emmanuel Macron confirme que "le confinement pourra être levé" le 15 décembre "si les objectifs sanitaires sont atteints"
il y a 7 heures 34 min
pépites > France
Chantier de la reconstruction
Notre-Dame de Paris : le démontage de l'ancien échafaudage est enfin terminé
il y a 10 heures 36 min
light > Sport
Monde du rugby en deuil
Mort de Christophe Dominici à l’âge de 48 ans
il y a 12 heures 21 min
décryptage > Culture
Atlanti Culture

"Aurélien" de Louis Aragon : un amour improbable dans le Paris des années 20... un roman à relire toutes affaires cessantes

il y a 14 heures 4 min
pépites > Santé
Covid-19
L'exemple de l'aéroport de Shanghai montre la rapidité de réaction de la Chine face au coronavirus
il y a 14 heures 37 min
décryptage > Politique
Mesures gouvernementales

Un jeune, une solution : un ministère (du travail), mille problèmes…

il y a 16 heures 3 min
pépites > Justice
Police
L'IGPN saisie après l'action de la police pour enlever les tentes installées par des associations et des militants place de la République hier soir
il y a 16 heures 39 min
pépites > Politique
Justice
Alain Griset, ministre des PME, mis en cause par la Haute Autorité pour la Transparence de la Vie Publique pour non déclaration de participations financières
il y a 17 heures 36 min
décryptage > International
Diplomatie

La nouvelle alliance entre Israël et les pays sunnites du Golfe est-elle de taille à résister à l’Iran ?

il y a 18 heures 10 min
décryptage > Europe
L’union fait l’insouciance

L’Europe, puissance naïve dans un monde de brutes ?

il y a 18 heures 32 min
© DENIS CHARLET / AFP
© DENIS CHARLET / AFP
Opacité

Ces algorithmes dont on ne sait rien alors qu’ils régissent nos vies

Publié le 21 septembre 2019
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.
Daniel Le Métayer
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.

Atlantico.fr : D'après une enquête du Wall Street Journal, sous couvert d'impartialité, le moteur de recherche d'Amazon privilégie les produits de la marque de la plateforme, notamment de manière indirecte. Malgré l'opacité de cet algorithme, est-il possible dans ce cas de prouver cette pratique afin d'envisager une pénalité pour abus de position dominante, comme celle infligée par Margrethe Vestager à Alphabet/Google en 2017? 


Daniel Le Métayer : De manière générale, à défaut de possibilité d’accéder au code informatique du système, le mieux que l’on puisse faire est de le tester, c’est à dire de lui soumettre un grand nombre de requêtes et de tenter, à partir des résultats, d’inférer les facteurs déterminants (les caractéristiques qui ont influencé ce résultat). En l’occurrence, il faudrait soumettre un grand nombre de requêtes à Amazon (recherches de produits) et tenter d’établir, à partir des classements proposés, si la caractéristique « marque Amazon » est déterminante. C’est ce que la Commission Européenne a fait, entre autres, en analysant 1,7 milliards de requêtes sur le moteur de recherche de Google avant de prononcer sa sanction pour abus de position dominante. Cependant, la tâche est difficile si on ne connaît pas les autres caractéristiques, qui seraient de l’ordre d’une centaine pour Amazon, ni leur valeur. Par exemple, on peut connaître la caractéristique critère « vitesse d’expédition » associé à un vendeur, mais probablement pas la caractéristique « volume des ventes » d’un produit qui devrait être un facteur important. De plus, on n’obtiendra pas de preuve absolue mais un faisceau d’indices, des éléments de preuve.

Quelles lacunes de gouvernance identifiez-vous en France et dans l'Union Européenne en ce qui concerne la transparence de tels algorithmes, en tenant compte des prérequis du secret industriel?

Les lacunes sont multiples, aussi bien pour ce qui est de la loi que de son effectivité. Par exemple, la loi pour une République numérique prévoit en France une obligation, pour les opérateurs de plateformes en ligne, de fournir une information « loyale, claire et transparente » sur les modalités de référencement, de classement et de déréférencement des contenus. Le décret d’application précise que ces informations doivent comprendre « les critères de classement par défaut des contenus et des offres de biens et services, ainsi que leur principaux paramètres ». La loi impose aussi d’informer le public sur « l'existence d'une relation contractuelle, d'un lien capitalistique ou d'une rémunération à son profit, dès lors qu'ils influencent le classement ou le référencement des contenus, des biens ou des services proposés ou mis en ligne ». Si la société Amazon a adapté son algorithme pour favoriser ses propres produits, comme l’affirme le Wall Street Journal, elle est en infraction avec cette loi dès lors que les internautes n’en sont pas informés. 

Idéalement, il faudrait renforcer les obligations des opérateurs ou des fournisseurs de systèmes algorithmiques qui ont une incidence importante sur la vie des citoyens, soit sur leur vie quotidienne, soit dans des secteurs critiques comme la justice, la police, ou encore la santé. Avant de déployer ce type de système, il devrait être nécessaire de conduire une « étude d’impact algorithmique », comme cela a été introduit récemment pour le secteur public par une directive canadienne. Par ailleurs ces systèmes devraient pouvoir être audités par une autorité indépendante. Une telle autorité étant tenue à des obligations de confidentialité, l’argument de protection des secrets industriels ou de la propriété intellectuelle ne me paraît pas recevable.

On entend souvent que les algorithmes d'apprentissage (communément appelés intelligences artificielles) complexifient l'exercice de la transparence car leur créateur, par définition, ne les maitrise pas de bout en bout. Est-ce le cas pour tous les algorithmes d'apprentissage? Comment peut-on identifier et prévenir alors les abus?

Tout d’abord, il faut être clair sur le fait que ce n’est pas la complexité liée à l’apprentissage qui est en cause dans les cas évoqués à propos d’Amazon et de Google : il s’agit d’une opacité ou plutôt d’un secret délibérément entretenu et non pas d’une conséquence de choix techniques. Pour ce qui est de la complexité des modèles produits par apprentissage, elle est réelle pour certaines techniques, notamment ce que l’on appelle l’« apprentissage profond » qui est particulièrement performant pour des applications comme l’analyse d’images.

De manière générale, je préfère parler d’explicabilité plutôt que de transparence, car montrer ne signifie pas forcément rendre compréhensible. Il s’agit d’un domaine de recherche actuellement très actif. Selon les domaines d’application, on peut adopter différentes stratégies pour assurer l’explicabilité. Une première option est d’entraîner un algorithmes à produire lui-même des explications de ses résultats ; quand le concepteur n’est pas collaboratif, comme pour Amazon et Google, on peut essayer de produire des explications d’algorithmes a posteriori par des formes de rétro-ingénierie. Dans certains cas, il est possible de mettre au point des techniques d’apprentissage offrant à la fois une précision acceptable et une bonne intelligibilité. Tout dépend des secteurs d’application : par exemple, pour un algorithme utilisé par un juge ou un médecin, une absence totale d’intelligibilité paraît difficile à accepter ; pour un algorithme de jeu de Go, il ne s’agit pas d’une exigence essentielle.

Propos recueillis par Aurélie Buytaert

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Thématiques :
Commentaires (3)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
zelectron
- 21/09/2019 - 14:46
ou plutôt le calcul itératif . . .
sans compter les probas et hop le tuor est joué : voilà l'"intelligence artificielle"
A quand un nouveau nom pour un progrès epsilonesque que les marketing vont encenser avec toute la dithyrambe comme il se doit .
JBL
- 21/09/2019 - 14:21
Les algorithmes
Ce qui extrêmement dangereux et quelque part nouveau, c'est leur puissance de calcul. Sans ces algorithmes, la réforme des retraites ne pourrait avoir lieu. Après avoir révolutionner les salles de marché, qui font que des centaines de milliards sont échangés par jour et partout sur la planète, avec des gains inimaginables, ils viennent maintenant s'imposer dans les filières administratives. Parce que là aussi, il y a du fric à gagner. Les humains n'ont pas cette capacité de calcul, et ainsi pour pouvoir recalculer les 50 systèmes de retraites différents actuellement en place, et bien d'autres choses. Et si la réforme des retraites est voulue, c'est que les algorithmes ont établi les schémas pour payer moins. C'est aussi logique que çà. Le rôle du ministre va être de faire avaler les couleuvres : Equité, justice, bla bla bla. Mais ça, personne ne le dit ou ne l'a compris. Nous ne sommes qu'au début de leur puissance inimaginable. Google vient d'élaborer un ordinateur quantique : 3 minutes et 20 secondes pour un calcul qui prend 10 000 ans par un ordinateur actuel......La vraie révolution du monde est là : sournoise et silencieuse.
J'accuse
- 21/09/2019 - 11:27
Les gouvernements sont plus opaques et mafieux que les GAFA
Les seuls algorithmes qui régissent nos vies sont dans notre tête; ceux qui les influencent le plus sont les politiciens et les journalistes, les premiers avec leurs impôts et leurs mensonges, les seconds avec leurs articles partiaux et idéologisés.
Qu'un vendeur s'efforce de privilégier ses propres produits est une évidence et tout ce qu'il y a de plus naturel. C'est exactement ce que font les supermarchés avec ce qu'ils présentent dans les rayons. Vouloir condamner une pratique légitime est absurde. Quel est le vrai procès qu'on veut faire à Amazon ?
En tant que client régulier d'Amazon, j'y trouve généralement ce que je cherche à un prix qui me convient: que demander de plus ? Ceux à qui ça ne plaît pas peuvent acheter ailleurs.
Les amendes infligées par l'UE ou les gouvernements ne sont qu'une façon de leur soutirer du fric pour des raisons douteuses. C'est un racket, légal parce que ce sont eux qui font les lois.