En direct
Best of
Best of du 21 au 27 mars
En direct
Articles populaires
Période :
24 heures
7 jours
01.

Coronavirus : les fonctionnaires qui nous sauvent et ceux qui nous plombent (voire pire...)

02.

Coronavirus : ces cadavres dans le placard qui gênent la Chine dans son offensive de charme

03.

Yazdan Yazdapanah, qui coordonne les essais contre le coronavirus, est-il l'homme des laboratoires américains ?

04.

Tests : la stratégie du gouvernement nous accule à un (nouveau) retard évitable

05.

Saint-Denis, ville ouverte : ouverte au coronavirus !

06.

LR : quand la droite ne comprend plus le libéralisme, ni l’économie, ni la nature de la crise que nous traversons...

07.

Sauver l’économie ou sauver des vies ? Pourquoi les citoyens occidentaux ne sont pas plus au clair que leurs gouvernements

01.

Saint-Denis, ville ouverte : ouverte au coronavirus !

02.

Fonctionnaires en déroute... mais que se passe-t-il dans le secteur public ?

03.

Yazdan Yazdapanah, qui coordonne les essais contre le coronavirus, est-il l'homme des laboratoires américains ?

04.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

05.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

06.

Coronavirus : pourquoi l’Occident ne comprend pas ce qui a vraiment marché à Wuhan

01.

Aussi inquiétante que le Covid-19, la crise de la raison ? Gourous et boucs émissaires font leur retour

02.

Chloroquine : les doutes qui pèsent sur la rigueur de l’étude du professeur Raoult expliqués par un biostatisticien

03.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

04.

Covid-19 : la stratégie sanitaire française est-elle efficace ? Analyse comparée des résultats par pays

05.

Tests : la stratégie du gouvernement nous accule à un (nouveau) retard évitable

06.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

ça vient d'être publié
décryptage > Santé
Résultats prometteurs

Covid-19 et chloroquine : et si l'on écoutait le Dr Vladimir Zelenko nous parler de sa propre expérience ?

il y a 13 min 43 sec
décryptage > Politique
Cohésion

Covid-19 : unité nationale où es-tu ?

il y a 2 heures 6 min
décryptage > France
Ils sont nombreux à être malades

Coronavirus : 26% des Français pensent qu’il s’agit d’un complot !

il y a 2 heures 48 min
décryptage > Economie
Bulletin

Coronavirus : petit bilan des mesures d’aides aux entreprises et aux salariés

il y a 3 heures 19 min
décryptage > Santé
Plan d'action

Tests : la stratégie du gouvernement nous accule à un (nouveau) retard évitable

il y a 4 heures 5 min
décryptage > Economie
Atlantico Business

Les dividendes 2020 seront aussi confinés : les dirigeants politiques veillent au grain, par démagogie ou par nécessité

il y a 4 heures 51 min
décryptage > International
Résolution ?

Fin de crise en Israël

il y a 16 heures 45 min
pépites > International
Israel
Coronavirus: Benjamin Netanyahu placé en quarantaine
il y a 22 heures 31 min
décryptage > International
LES ENTREPRENEURS PARLENT AUX FRANÇAIS

Les Virus, l’économie, les politiques et la mort. Premières leçons de la gestion de la pandémie

il y a 23 heures 22 min
décryptage > Culture
ATLANTI-CULTURE

Contes de la rue Broca

il y a 1 jour 5 min
pépite vidéo > Politique
Combattre le virus
Hongrie : Viktor Orbán obtient les pleins pouvoirs pour lutter plus efficacement contre le Covid-19
il y a 30 min 32 sec
décryptage > International
Le point de vue de Dov Zerah

Pour une nouvelle gouvernance mondiale

il y a 2 heures 35 min
décryptage > Politique
Schtroumpfs paresseux

Et si les accusateurs du libéralisme essayaient d’abord de comprendre ce dont ils parlent

il y a 3 heures 3 min
décryptage > Politique
Rupture douloureuse

Petit historique des catastrophes politiques vécues par la droite à chaque fois qu’elle a divorcé du libéralisme

il y a 3 heures 36 min
décryptage > Politique
Certitudes

LR : quand la droite ne comprend plus le libéralisme, ni l’économie, ni la nature de la crise que nous traversons...

il y a 4 heures 29 min
décryptage > Santé
Gestion de crise

Coronavirus : les fonctionnaires qui nous sauvent et ceux qui nous plombent (voire pire...)

il y a 5 heures 3 min
pépites > France
Un boost pas comme les autres
Le confinement dynamise les révisions du Code de la route
il y a 21 heures 48 min
Les marques sont elles aussi solidaires
Coca-Cola et d'autres marques créent des logos de «distance sociale»
il y a 22 heures 43 min
décryptage > Culture
ATLANTI-CULTURE

Le cauchemar

il y a 23 heures 59 min
pépites > Santé
Une nouvelle pénurie à cause du Covid-19
Vers une pénurie mondiale de préservatifs ?
il y a 1 jour 17 min
© DENIS CHARLET / AFP
© DENIS CHARLET / AFP
Opacité

Ces algorithmes dont on ne sait rien alors qu’ils régissent nos vies

Publié le 21 septembre 2019
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer
Suivre
Vous devez être abonné pour suivre un auteur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Daniel Le Métayer est directeur de Recherche Inria et membre du l'équipe PRIVATICS et du laboratoire CITI.
Voir la bio
Ajouter au classeur
Vous devez être abonné pour ajouter un article à votre classeur.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Lecture Zen
Vous devez être abonné pour voir un article en lecture zen.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Selon des révélations du Wall Street Journal, le moteur de recherche d'Amazon a tendance à privilégier la marque de la plateforme. Les algorithmes sont de plus en plus opaques.

Atlantico.fr : D'après une enquête du Wall Street Journal, sous couvert d'impartialité, le moteur de recherche d'Amazon privilégie les produits de la marque de la plateforme, notamment de manière indirecte. Malgré l'opacité de cet algorithme, est-il possible dans ce cas de prouver cette pratique afin d'envisager une pénalité pour abus de position dominante, comme celle infligée par Margrethe Vestager à Alphabet/Google en 2017? 


Daniel Le Métayer : De manière générale, à défaut de possibilité d’accéder au code informatique du système, le mieux que l’on puisse faire est de le tester, c’est à dire de lui soumettre un grand nombre de requêtes et de tenter, à partir des résultats, d’inférer les facteurs déterminants (les caractéristiques qui ont influencé ce résultat). En l’occurrence, il faudrait soumettre un grand nombre de requêtes à Amazon (recherches de produits) et tenter d’établir, à partir des classements proposés, si la caractéristique « marque Amazon » est déterminante. C’est ce que la Commission Européenne a fait, entre autres, en analysant 1,7 milliards de requêtes sur le moteur de recherche de Google avant de prononcer sa sanction pour abus de position dominante. Cependant, la tâche est difficile si on ne connaît pas les autres caractéristiques, qui seraient de l’ordre d’une centaine pour Amazon, ni leur valeur. Par exemple, on peut connaître la caractéristique critère « vitesse d’expédition » associé à un vendeur, mais probablement pas la caractéristique « volume des ventes » d’un produit qui devrait être un facteur important. De plus, on n’obtiendra pas de preuve absolue mais un faisceau d’indices, des éléments de preuve.

Quelles lacunes de gouvernance identifiez-vous en France et dans l'Union Européenne en ce qui concerne la transparence de tels algorithmes, en tenant compte des prérequis du secret industriel?

Les lacunes sont multiples, aussi bien pour ce qui est de la loi que de son effectivité. Par exemple, la loi pour une République numérique prévoit en France une obligation, pour les opérateurs de plateformes en ligne, de fournir une information « loyale, claire et transparente » sur les modalités de référencement, de classement et de déréférencement des contenus. Le décret d’application précise que ces informations doivent comprendre « les critères de classement par défaut des contenus et des offres de biens et services, ainsi que leur principaux paramètres ». La loi impose aussi d’informer le public sur « l'existence d'une relation contractuelle, d'un lien capitalistique ou d'une rémunération à son profit, dès lors qu'ils influencent le classement ou le référencement des contenus, des biens ou des services proposés ou mis en ligne ». Si la société Amazon a adapté son algorithme pour favoriser ses propres produits, comme l’affirme le Wall Street Journal, elle est en infraction avec cette loi dès lors que les internautes n’en sont pas informés. 

Idéalement, il faudrait renforcer les obligations des opérateurs ou des fournisseurs de systèmes algorithmiques qui ont une incidence importante sur la vie des citoyens, soit sur leur vie quotidienne, soit dans des secteurs critiques comme la justice, la police, ou encore la santé. Avant de déployer ce type de système, il devrait être nécessaire de conduire une « étude d’impact algorithmique », comme cela a été introduit récemment pour le secteur public par une directive canadienne. Par ailleurs ces systèmes devraient pouvoir être audités par une autorité indépendante. Une telle autorité étant tenue à des obligations de confidentialité, l’argument de protection des secrets industriels ou de la propriété intellectuelle ne me paraît pas recevable.

On entend souvent que les algorithmes d'apprentissage (communément appelés intelligences artificielles) complexifient l'exercice de la transparence car leur créateur, par définition, ne les maitrise pas de bout en bout. Est-ce le cas pour tous les algorithmes d'apprentissage? Comment peut-on identifier et prévenir alors les abus?

Tout d’abord, il faut être clair sur le fait que ce n’est pas la complexité liée à l’apprentissage qui est en cause dans les cas évoqués à propos d’Amazon et de Google : il s’agit d’une opacité ou plutôt d’un secret délibérément entretenu et non pas d’une conséquence de choix techniques. Pour ce qui est de la complexité des modèles produits par apprentissage, elle est réelle pour certaines techniques, notamment ce que l’on appelle l’« apprentissage profond » qui est particulièrement performant pour des applications comme l’analyse d’images.

De manière générale, je préfère parler d’explicabilité plutôt que de transparence, car montrer ne signifie pas forcément rendre compréhensible. Il s’agit d’un domaine de recherche actuellement très actif. Selon les domaines d’application, on peut adopter différentes stratégies pour assurer l’explicabilité. Une première option est d’entraîner un algorithmes à produire lui-même des explications de ses résultats ; quand le concepteur n’est pas collaboratif, comme pour Amazon et Google, on peut essayer de produire des explications d’algorithmes a posteriori par des formes de rétro-ingénierie. Dans certains cas, il est possible de mettre au point des techniques d’apprentissage offrant à la fois une précision acceptable et une bonne intelligibilité. Tout dépend des secteurs d’application : par exemple, pour un algorithme utilisé par un juge ou un médecin, une absence totale d’intelligibilité paraît difficile à accepter ; pour un algorithme de jeu de Go, il ne s’agit pas d’une exigence essentielle.

Propos recueillis par Aurélie Buytaert

Les commentaires de cet article sont à lire ci-après
Le sujet vous intéresse ?
Thématiques :
Articles populaires
Période :
24 heures
7 jours
01.

Coronavirus : les fonctionnaires qui nous sauvent et ceux qui nous plombent (voire pire...)

02.

Coronavirus : ces cadavres dans le placard qui gênent la Chine dans son offensive de charme

03.

Yazdan Yazdapanah, qui coordonne les essais contre le coronavirus, est-il l'homme des laboratoires américains ?

04.

Tests : la stratégie du gouvernement nous accule à un (nouveau) retard évitable

05.

Saint-Denis, ville ouverte : ouverte au coronavirus !

06.

LR : quand la droite ne comprend plus le libéralisme, ni l’économie, ni la nature de la crise que nous traversons...

07.

Sauver l’économie ou sauver des vies ? Pourquoi les citoyens occidentaux ne sont pas plus au clair que leurs gouvernements

01.

Saint-Denis, ville ouverte : ouverte au coronavirus !

02.

Fonctionnaires en déroute... mais que se passe-t-il dans le secteur public ?

03.

Yazdan Yazdapanah, qui coordonne les essais contre le coronavirus, est-il l'homme des laboratoires américains ?

04.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

05.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

06.

Coronavirus : pourquoi l’Occident ne comprend pas ce qui a vraiment marché à Wuhan

01.

Aussi inquiétante que le Covid-19, la crise de la raison ? Gourous et boucs émissaires font leur retour

02.

Chloroquine : les doutes qui pèsent sur la rigueur de l’étude du professeur Raoult expliqués par un biostatisticien

03.

Coronavirus : ces éléments venus d’Italie qui montrent que le nombre réel de morts pourrait être 4 fois supérieur aux chiffres officiels

04.

Covid-19 : la stratégie sanitaire française est-elle efficace ? Analyse comparée des résultats par pays

05.

Tests : la stratégie du gouvernement nous accule à un (nouveau) retard évitable

06.

Procédures contre les responsables publics : ce qui sera juridiquement possible (ou pas)

Commentaires (3)
Ecrire un commentaire
Vous devez être abonné pour rédiger un commentaire.
Abonnez-vous
«Vos abonnements garantissent notre indépendance»
Nos articles sont ouverts aux commentaires sur une période de 7 jours.
Face à certains abus et dérives, nous vous rappelons que cet espace a vocation à partager vos avis sur nos contenus et à débattre mais en aucun cas à proférer des propos calomnieux, violents ou injurieux. Nous vous rappelons également que nous modérons ces commentaires et que nous pouvons être amenés à bloquer les comptes qui contreviendraient de façon récurrente à nos conditions d'utilisation.
*Toute validation est définitive, vous ne pourrez pas rééditer votre commentaire.
zelectron
- 21/09/2019 - 14:46
ou plutôt le calcul itératif . . .
sans compter les probas et hop le tuor est joué : voilà l'"intelligence artificielle"
A quand un nouveau nom pour un progrès epsilonesque que les marketing vont encenser avec toute la dithyrambe comme il se doit .
JBL
- 21/09/2019 - 14:21
Les algorithmes
Ce qui extrêmement dangereux et quelque part nouveau, c'est leur puissance de calcul. Sans ces algorithmes, la réforme des retraites ne pourrait avoir lieu. Après avoir révolutionner les salles de marché, qui font que des centaines de milliards sont échangés par jour et partout sur la planète, avec des gains inimaginables, ils viennent maintenant s'imposer dans les filières administratives. Parce que là aussi, il y a du fric à gagner. Les humains n'ont pas cette capacité de calcul, et ainsi pour pouvoir recalculer les 50 systèmes de retraites différents actuellement en place, et bien d'autres choses. Et si la réforme des retraites est voulue, c'est que les algorithmes ont établi les schémas pour payer moins. C'est aussi logique que çà. Le rôle du ministre va être de faire avaler les couleuvres : Equité, justice, bla bla bla. Mais ça, personne ne le dit ou ne l'a compris. Nous ne sommes qu'au début de leur puissance inimaginable. Google vient d'élaborer un ordinateur quantique : 3 minutes et 20 secondes pour un calcul qui prend 10 000 ans par un ordinateur actuel......La vraie révolution du monde est là : sournoise et silencieuse.
J'accuse
- 21/09/2019 - 11:27
Les gouvernements sont plus opaques et mafieux que les GAFA
Les seuls algorithmes qui régissent nos vies sont dans notre tête; ceux qui les influencent le plus sont les politiciens et les journalistes, les premiers avec leurs impôts et leurs mensonges, les seconds avec leurs articles partiaux et idéologisés.
Qu'un vendeur s'efforce de privilégier ses propres produits est une évidence et tout ce qu'il y a de plus naturel. C'est exactement ce que font les supermarchés avec ce qu'ils présentent dans les rayons. Vouloir condamner une pratique légitime est absurde. Quel est le vrai procès qu'on veut faire à Amazon ?
En tant que client régulier d'Amazon, j'y trouve généralement ce que je cherche à un prix qui me convient: que demander de plus ? Ceux à qui ça ne plaît pas peuvent acheter ailleurs.
Les amendes infligées par l'UE ou les gouvernements ne sont qu'une façon de leur soutirer du fric pour des raisons douteuses. C'est un racket, légal parce que ce sont eux qui font les lois.