Google, Facebook et Amazon sont-ils en train de nous construire un monde invivable à grands coups de monopoles et d’algorithmes ?

Atlantico : Amazon a récemment défrayé la chronique, l'entreprise ayant déréglé les commandes ainsi que le référencement de l'éditeur Hachette à qui elle était opposée dans un conflit juridique. Un fait qui a scandalisé les internautes qui ont dénoncé une pratique concurrentielle déloyale. Peut-on parler d'une histoire anecdotique ou faut-il voir dans ce type de pratique un moyen de pression récurrent des géants du web ?

Fabrice Epelboin : Cela n’a rien d’anecdotique, et surtout, cela n’a rien de nouveau. Ce type de pratique est courante dans le monde de la distribution, en particulier dans la grande distribution : Carrefour, Auchan ou Leclerc ont recours à de tels méthodes quotidiennement. La seule différence ici c’est la position de domination absolue d’Amazon dans le eCommerce, mais il faut relativiser les choses, si on regarde les répartitions géographiques de l’implantation de la grande distribution, alors on observe des situations assez similaires dans la grande distribution classique. Amazon ici ne fait qu’adopter des pratiques largement répandues, et par ailleurs largement critiquables, mais il n’y a là aucune nouveauté, si ce n’est le territoire : Internet. Il est difficile de critiquer Amazon sans faire de même avec le monde de la distribution en général.

Dans une veine similaire, Google s'est attaqué récemmment au site d'informations Metafilter, spécialisé dans le numérique, en réduisant son trafic de 40% à la suite d'un article estimé déplaisant sur les algorithmes de la firme. Bien que les suspicions existent, il est impossible de prouver la chose puisque Google aurait utilisé un "algorithme obscur" impossible à consulter en externe. Quelles peuvent être les conséquences de telles pratiques ?

A chaque évolution de son algorithme, de nombreux sites qui dépendent de Google pour leur trafic subissent d’énormes déconvenues. Dans le cas de Metafilter, il est peu probable que le déclin de son trafic induit par Google soit le résultat d’une intention délibérée de Google. Par contre, il existe de nombreux exemples où Google a volontairement supprimé de ses résultats les mieux classés des offres concurrentes à la siennne, comme par exemple la récente désindexation de Vivint (voir ici), un concurrent de Nest, le thermostat connecté que Google a récemment racheté pour plusieurs milliards de dollars.

On est ici dans un cas de figure très différent du conflit entre Amazon et Hachette. Si on devait prendre une métaphore, on serait dans le cas où Carrefour serait également Vinci, et construirait des voies d’accès aux supermarchés, puis détruirait celles qui mènent à Auchan dès qu’il implanterait un supermarché Carrefour à proximité. Dans un autre ordre d’idée, et pour revenir au cyber, c’est un peu comme si un producteur de contenus était également fournisseur d’accès à internet et proposerait d’accéder à ses contenus via une autoroute pour ne laisser aux autres contenus qu’une petite voie d’accès secondaire - c’est l’essence de la neutralité du net d’empêcher ce genre de situation, c’est pour cela qu’il est essentiel de préserver ce principe.

Enfin, il est important de comprendre qu’il n’existe pas d’algorithme obscur. C’est une invention journalistique qui masque une profonde incompréhension de l’état de la propriété intellectuelle dans le monde du logiciel, et de ses conséquences sur une denrée qui se fait de plus en plus rare : la confiance. Il existe deux type d’algorithmes, et plus généralement de logiciels : les logiciels propriétaires et les logiciels libres. Il existe bien des différences entre ces deux approches de l’informatique, mais concentrons-nous ici sur une caractéristiques majeure et différenciante entre ceux deux mondes : avec un logiciel dit “libre”, vous avez accès à son code, vous pouvez le modifier, étudier la façon dont il fonctionne, et au besoin, expliquer à la communauté pourquoi il comporte une erreur ou un biais, et en proposer un correctif. La confiance des utilisateurs envers ce logiciel repose sur la communauté d’experts en mesure de scruter ce code. Plus celle-ci est grande, moins il y a de chances qu’un biais ou quelque chose de malveillant puisse être introduit dans le code sans éveiller l’attention de quelqu’un au sein de la communauté. Avec un logiciel “propriétaire”, vous n’avez pas accès au code, et la confiance repose du coup sur le propriétaire.

A la lumière des révélations de l’affaire Snowden, en particulier en ce qui concerne le volet “Prism”, on voit bien qu’il est aberrant de faire confiance à ces entreprises de la Silicon Valley. La plupart des grands logiciels propriétaires recèlent des fragments de code destinés à surveiller les utilisateurs, voir à prendre le contrôle de leur installation informatique à leur insu. C’est le cas par exemple de Windows ou de Skype (voir ici), ce qui n’a pas empêché l’armée française de s’équiper en Microsoft (à lire ici). Si vous n’avez pas confiance envers la société qui possède le logiciel que vous utilisez, alors changez en. Passez à un logiciel libre ou à celui d’une entreprise que vous estimez digne de confiance.

Facebook aurait pour sa part supprimé plusieurs posts de journalistes évoquant le conflit syrien, d'aucuns dénonçant par là une tentative de gommage de l'Histoire. Que sait-on des pratiques de l'entreprise de Zuckerberg en termes de "sélection" du contenu partagé ?

Le problème est éminemment complexe, et il convient de ne pas s’arrêter à des raccourcis simplistes tels que le traditionnel “Facebook censure X ou Y”. Le système de modération de Facebook est en large partie sous-traité (à lire ici), Facebook ne conserve en interne qu’une task-force chargée des problèmes les plus critiques, mettant en jeu la sécurité informatique de sa plateforme et s’attaquant à certains problèmes spécifiques, tels que la pédophilie ou la coopération avec les investigations judiciaires (voir ici).

Il faut donc bien comprendre que ce n’est pas Facebook qui censure quoi que ce soit, mais être clair sur le processus qui mène à la censure d’une publication sur Facebook : une séries d’alertes réalisée par les utilisateurs de la plateforme via le formulaire destiné à “signaler une publication”, qui dès qu’elles atteignent un seuil critique sont remontées vers un sous-traitant qui modère - ou pas - en fonction de règles édictées par Facebook.

C’est là qu’on introduit un biais culturel. On se souvient de “l’origine du Monde” de Courbet (voir ici) qui s’était vu censuré parce qu’en vertu des règles de Facebook - d’inspiration culturelle américaine - le tableau relevait de la pornographie. Au-delà de l’aspect anecdotique de cette censure qui avait fait grand bruit à l’époque, on avait à faire ici à un gap culturel, rien de plus, rien de moins. On observe un tel gap culturel dans l’approche de la liberté d’expression entre la France et les USA (à voir ici), où le premier amendement garanti aux citoyens américains la possibilité d’exprimer des propos antisémites, alors que c’est interdit en France, ce que les Américains, même les plus libéraux, considèrent comme une entrave grave à la liberté d’expression.

Là encore, il s’agit d’un gap culturel, et nous avons en réalité à faire à un “impérialisme” politico-culturel américain vis à vis du monde en général et de l’occident en particulier. Un impérialisme avec lequel il va falloir composer sous peine de faire subir de graves dommages à notre démocratie et de voir pointer un mécontentement populaire légitimé par un droit à la liberté d’expression par ailleurs parfaitement imaginaire en France. Le danger ici réside dans le fait que la plupart des citoyens en France sont persuadés que la liberté d’expression est un droit fondamental. Au même titre qu’il est courant dans un tribunal de voir un magistrat interpelé par le terme de ‘votre honneur’ - une importation sémantique américaine arrivée en France via moultes séries télé, mais pourtant parfaitement exogène au système juridique Français. Priver de façon ostentatoire les citoyens Français de ce droit imaginaire ne peut que conduire à une déstabilisation de la société Française, et à une perte significative du système républicain Français en termes de légitimité démocratique.

Dans le cas du conflit Syrien dont certains aspects sont censurés sur Facebook, il faut également replacer cela dans un contexte géopolitique et interculturel. Une large part de la modération sur la plateforme Facebook - réalisé dans des pays à faible coût de main d’œuvre - est faite dans des pays musulmans. C’est un premier point à prendre en considération. De nombreux Etats sont par ailleurs passés maitres dans l’art de l’Astroturfing (ici) - l’art de simuler des mouvements de foule sur le online, dans le but d’influencer l’opinion publique - et parmi ces Etats, la Syrie de Bachar El Assad (lire ici).

Le plus vraisemblable, dans cette histoire de censure sur Facebook de contenus évoquant le conflit Syrien, est une conjonction entre une force gouvernementale - ou des collectifs de citoyens bien organisés - et l’orientation politique et culturel de la task force outsourcée par Facebook en charge - dans un pays arabe, typiquement - de la modération de la plateforme. Il n’y a par ailleurs aucune raison - bien au contraire - pour que les deux soient complices l’une de l’autre, inutile de crier au complot, c’est juste une utilisation particulièrement intelligente des dispositifs de modération mis en place par Facebook par des organisations qui excellent à l’art et la manière de faire de la politique en ligne.

En mai 2010, j’avais moi-même mis à jour de telles organisations, qui sous couvert d’islamistes réalisant des opérations sur Facebook destinées à évincer les utilisateurs Tunisiens ne respectant pas l’islam, masquaient en réalité une vaste opération mise en place par l’Etat Tunisien de Ben Ali et instrumentalisant les utilisateurs islamistes de Facebook en Tunisie, dont l’objectif était de faire disparaitre de Facebook l’opposition politique à Ben Ali.

Ce qu’il faut retenir, c’est la complexité des processus de modération sur Facebook, leur dimension necessairement trans-culturelle, et le savoir-faire de nombreuses organisations Etatiques et para Etatiques pour ce qui est de jouer avec cette complexité pour en tirer avantage.

Il existe bien d’autres anecdotes montrant comment le politique instrumentalise les foules via des techniques d’Astroturfing, comme le biais introduit lors des dernières élections présidentielles en Corée du Sud (en anglais ici) qui était destiné, via une vaste campagne orchestrée sur Twitter et divers médias sociaux Coréen à détruire la réputation du candidat de l’opposition à la veille des élections, ou bien encore les multiples trucages de sondages en ligne destinés à faire apparaitre comme gagnante la candidature de Jean François Copé lors de son élection à la présidence de l’UMP (à lire ici).

Au même titre que la mise en place de la société de la surveillance est une réalité centrale pour quiconque tente d’appréhender le rôle d’internet dans la société du XXIe siècle qui se dessine, l’Astroturfing est une dimension à prendre en compte et à étudier de près. (cours visible ici).

Ces différentes affaires tendent à montrer un comportement de moins en moins éthique de la part des géants du web. Quels outils permettraient d'endiguer ces méthodes ?

Je pense que l’éthique est quelque chose de facile à respecter quand on est une petite startup dans un garage, et de bien plus difficile à mettre en œuvre quand on est une multinationale cotée en bourse. Si on a gravé cette éthique dans une baseline, comme “don’t be Evil”, alors il y a peu de chances que cela tienne le choc d’une réalité politique froide et cynique. Il est désormais impératif, en particulier dans le secteur technologique, de transformer des engagements éthiques en contraintes durables pour l’entreprise, et comme ce n’est visiblement pas les politiques qui la lui imposeront, c’est à l’entreprise et à elle seule de le faire.

Il est par ailleurs indispensable que la population soit cohérente. Si une entreprise est prise en flagrant délit de manque d’éthique et que cela n’a pas la moindre conséquence, il n’y a aucune raison pour que son comportement change. On pourrait dire la même chose des politiques qui, bien que coupables à de multiples reprises de faits de corruption, se font réélire par leur électorat. Il n’y a aucune raison qu’ils changent. Si vous voulez que Google, Amazon et consort aux Etats-Unis, ou Orange en France, changent et deviennent éthiques, il faut qu’ils y voient un intérêt économique, c’est donc aux consommateurs d’influencer le marché en sanctionnant ceux qui manquent d’éthique… à moins que vous ne comptiez sur les politiques, mais les citoyens sont de moins en moins nombreux à miser là-dessus. Quant aux médias, il suffit d’aller regarder qui en sont les actionnaires pour se rendre compte qu’ils sont la plupart du temps dans une situation de conflit d’intérêt. La meilleure méthode aujourd’hui, c’est l’utilisation éthique de votre carte de crédit.