Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
High-tech
Crédits Photo: DENIS CHARLET / AFP

Données personnelles

Twitter, Facebook : ces amis qui vous veulent du mal

Les plateformes numériques comme Facebook et Twitter utilisent un nouveau filtrage de l'information à travers des algorithmes. Des logiques de signalements ont également été renforcées.

Bernard Benhamou

Bernard Benhamou

Bernard Benhamou est secrétaire général de l’Institut de la Souveraineté Numérique (ISN). Il est aussi enseignant sur la gouvernance de l’Internet à l’Université Paris I-Panthéon Sorbonne. Il a exercé les fonctions de délégué interministériel aux usages de l’Internet auprès du ministère de la Recherche et du ministère de l’Économie numérique (2007-2013). Il y a fondé le portail Proxima Mobile, premier portail européen de services mobiles pour les citoyens. Il a coordonné la première conférence ministérielle européenne sur l’Internet des objets lors de la Présidence Française de l’Union européenne de 2008. Il a été le conseiller de la Délégation Française au Sommet des Nations unies sur la Société de l’Information (2003-2006). Il a aussi créé les premières conférences sur l’impact des technologies sur les administrations à l’Ena en 1998. Enfin, il a été le concepteur de « Passeport pour le Cybermonde », la première exposition entièrement en réseau créée à la Cité des Sciences et de l’Industrie en 1997.

Voir la bio »Nicolas Moreau

Nicolas Moreau

Diplômé d'école de commerce, Nicolas Moreau a exercé en tant qu'auditeur pendant une décennie, auprès de nombreux acteurs publics, associatifs et privés.

Voir la bio »

Atlantico.fr : Le développement des plateformes numériques ont produit un nouveau système de filtrage de l'information, où les algorithmes remplacent progressivement le choix journalistique. Avec les nouvelles crispations identitaires, ces filtrages algorithmiques ont été progressivement renforcés par des logiques de signalements, à propos de publications qui seraient jugées par le lecteur, erronées, choquantes, ou illégales.

Ce pouvoir de sélectionner l'information qui parviendra à des audiences énormes, par exemple sur Facebook, Google, ou Twitter, ne pose-t-il pas un vrai problème dans l'établissement de normes de modérations des propos ? Ne doit-on pas y voir un vrai danger pour le pluralisme ?

Nicolas Moreau : Si, bien que le sujet ne soit pas nouveau.

Autrefois, les grands médias étaient hégémoniques en matière d’information. Ils avaient donc toute latitude pour empêcher certains thèmes ou certaines opinions d’obtenir une audience importante.

Internet, puis les réseaux sociaux, ont bouleversé cette situation en donnant à tous l’accès à une information brute beaucoup plus vaste. Le pluralisme des idées s’est alors fortement développé.

Ce bouleversement s’est fait pour le meilleur comme pour le pire. Le pluralisme est toujours positif pour la démocratie, pour l’épanouissement personnel des citoyens, et pour la recherche de la vérité.

Mais le pire s’est également révélé : agressivité, menaces, fake news, théories du complot, canulars, etc.

Ainsi va la liberté, avec ses avantages, et avec ses inconvénients.

Depuis quelques années la tendance s’inverse. La censure revient par l’action du gouvernement (les demandes de suppression de contenu en France sont parmi les plus élevées au monde), par l’action des plates-formes (qui ont leur propre vision du caractère acceptable ou non de certains propos, teintée de bien-pensance de la Silicon Valley, et de culture des pays en charge de la modération), et par l’action de groupes de pression militants qui savent utiliser les faiblesses des plates-formes.

Dans ce domaine, la future loi Avia contre la haine en ligne est désastreuse, car elle encourage ce qu’elle prétend combattre. En mettant la pression sur les plates-formes, sommées de supprimer les « contenus haineux » en moins de 24 heures, elle oblige celles-ci à une réactivité telle qu’elle les pousse à sortir l’humain du processus de modération, et à mettre en place des systèmes de modération automatisés, basés sur les signalements des autres utilisateurs.

Dans ce cas, la modération des contenus n’est plus prise en charge par les plates-formes, selon des normes établies à l’avance, mais directement par les autres utilisateurs, qui peuvent censurer des contenus par des signalements massifs, entraînant une suppression préventive du contenu, ou du compte lui-même.

Cette triple censure (gouvernementale, entrepreneuriale, et militante), est naturellement un véritable défi pour le pluralisme.

Bernard Benhamou : Je suis un peu gêné d'utiliser le mot filtrage pour l'ensemble, parce que dans certains cas, il s'agit effectivement d'algorithmes de filtrage, mais dans d'autres cas il s'agit plutôt de profilage ou de micro-targeting. Par conséquent, le mot filtrage donne à penser qu'il faut juste enlever certains contenus, mais on est aussi dans le fait de pousser certains contenus plutôt que d'autres.

Quant à la norme de modérations des propos, c'est le problème politique majeur qui se pose aujourd'hui aux plateformes comme Facebook. L'attitude générale de ces plateformes jusqu’à présent, je pense en particulier à Facebook, qui est d'ailleurs sous le feu de nombreux régulateurs en Europe certes mais aussi aux États-Unis, est aujourd'hui très opaque dans l'établissement de leurs critères de sélection. À mon avis, il y a donc un véritable problème de régulation. Récemment, le parlement britannique en était venu à demander une attitude plus claire de Facebook vis-à-vis des publicités. Les publicités politiques posent particulièrement problème, en effet ces plateformes n'ont bien souvent aucune forme de filtrage, même par rapport à des contenus qui sont de toute évidence mensongers. On a même vu une candidate à la primaire démocrate, Elisabeth Warren, qui a eu l'occasion de faire passer volontairement une publicité qui était fantaisiste, pour montrer à quel point Mark Zuckerberg et Facebook étaient irresponsables dans leur gestion de la publicité politique. 

À l’évidence, nous Européens qui sommes soucieux à juste titre de la protection des libertés et du bon déroulement des campagnes électorales, pour nous il est important d'établir un cadre qui ne soit pas sujet à influence en particulier étrangère. L'un des problèmes que posent les choix éditoriaux de Facebook, par exemple, dans les campagnes politiques, c'est aussi la capacité qu'ont des officines étrangères, dont la très célèbre agence russe, IRA (Internet Research Agency), d'intervenir pour influencer des scrutins, partout dans le monde. De ce point de vue, Facebook est dans une situation ambiguë, où son modèle économique repose sur le fait d'accepter le plus de publicités possible, mais cela peut avoir des conséquences politiques désastreuses. Et s'il s'agit d'établir une sélection, alors l'entreprise se met dans une situation où elle se substitue en quelque sorte, aux juges. Donc là, c'est vrai que nous sommes face à un vrai problème démocratique, qui ne pourrait probablement que se régler par la loi, à un niveau national ou européen. Mais cette loi paraît nécessaire au regard du pouvoir démesuré de ces plateformes et de leurs capacités à modeler les opinions publiques.

Les processus de modération à partir de signalements posent également la question des rapports de forces entre les groupes d'influence en ligne. Ne risque-t-on pas de voir des minorités actives, non nécessairement représentatives de la réalité sociale, s'emparer de ces plateformes afin de réduire la parole de leurs opposants ? Le cas récent avec la suspension du compte Twitter de "ImamApostat", œuvrant contre l'islamisme, qui a été signalé pour "islamophobie", ne pose-t-il le délicat problème du curseur par lequel distinguer les paroles admissibles de celles inadmissibles ?

Nicolas Moreau : Les processus de modération à partir des signalements posent problème. Ils permettent aux minorités les plus acharnées et les plus organisées de réduire au silence les opinions majoritaires les plus modérées, ou les opinions les moins bien protégées.

Le cas des apostats de l’islam, ces musulmans qui ont perdu la foi et abandonné la pratique religieuse, est un cas d’école.

Ils sont une poignée. Ils ne sont pas organisés. Leur ancienne religion leur vaut la méfiance de l’extrême-droite. Leur faible nombre leur vaut une absence de prise en compte par les partis républicains. Leur rejet de l’islam leur vaut des menaces de mort par nombre de leurs anciens coreligionnaires, et des accusations « d’islamophobie » par les islamistes et leurs idiots utiles.

Ils se retrouvent isolés, avec peu de monde derrière eux, et beaucoup de monde devant. Ils souffrent de plus de la bien-pensance californienne en matière de discours haineux. Dans ces conditions, ils sont faciles à cibler, et leurs comptes tombent rapidement sous l’action des signalements de masse.

Ces groupes de pression sont nombreux : décoloniaux, islamistes, féministes radicaux, extrêmes, etc.

Petit à petit, grâce à la bêtise des lois votées, et grâce à la bienveillance californienne pour leurs opinions, ils réduisent au silence les opinions les plus contraires aux leurs, et les plus modérées.

Le flou autour de la modération fait le reste. Chaque propos doit passer au travers d’un triple couperet : la censure gouvernementale, la censure de la bien-pensance californienne, et la censure des militants.

Ces trois couperets suivant des logiques différentes, il devient impossible de savoir les propos qui seront admis ou non.

Bernard Benhamou : Oui, c'est totalement possible ! Auparavant intervenir dans un phénomène démocratique à l'échelle d'un pays entier demandait des moyens considérables, et effectivement réclamer des interventions qui étaient complexes et coûteuses. Aujourd'hui il est possible de créer des millions ou des centaines de millions de comptes pour des équipes de quelques personnes, et ces comptes donnent l'impression d'un phénomène de masse. Souvent ce sont quelques personnes qui agissent depuis l'étranger pour donner l'impression d'un mouvement important afin d'orienter et polariser le débat public. C'est bien sûr extrêmement dangereux. Pour vous donner une idée des échelles, le premier semestre de l'année 2018, Facebook a annoncé avoir détruit 1,5 milliard de faux comptes. C'est-à-dire que la capacité d'interventions de ces groupes, puissamment armés d'un point de vue technique, mais pas nécessairement très riches, est quasiment infinie. 

Même sans des logiques de cet ordre, la démarche même du signalement d'un humain par un autre ne pose-t-elle pas problème si les règles de modération ne sont pas clairement établies ?

Bernard Benhamou : Je dirais que le signalement est un des volets, mais pas le volet principal du problème qui se pose à l'heure actuelle. Le vrai problème c'est plutôt comment ces plateformes détectent ou pas les contenus qui sont censés être bloqués, et quelle est la politique que l'on va donner aux humains qui sont en charge de bloquer les contenus, puisqu'il y a désormais des équipes de plusieurs milliers de personnes qui ont ce rôle, et cela en tenant compte des potentiels faux comptes. Là on est dans un politique de bricolage, où tout cela est fait de manière aléatoire, un peu empiriquement, et où il n'y a pas une délimitation claire dans ses sociétés. Tout simplement, car comme dans le cas de Facebook, nous avons des sociétés qui se retranchent derrière le premier amendement, et l'argument de la liberté d'expression, en invoquant se plier au droit américain uniquement. Sur ce point-là, ils ne peuvent et ne doivent pas répondre au seul droit américain. 

Par ailleurs, d’autres sociétés évoquent le risque (et ce n'est pas le cas de Facebook car ils ne sont pas représentés en Chine) de régimes dictatoriaux qui demandent telle ou telle suppression pour des raisons de contrôle de leur opinion publique. La stratégie de ces entreprises basées aux États-Unis, est de réfuter toute forme de singularité européenne, ou non-américaine, par rapport à ces politiques de régulation. Du point de vue européen, c'est un vrai problème d'abandon de souveraineté. Il y a un enjeu d'un droit spécifique des Européens à réguler les discours de haine selon leurs propres critères. On ne peut considérer comme normal le fait que les employés de Facebook jugent des contenus qu’eux-mêmes ont décrétés comme pornographiques, tandis qu'ils ne trouvent absolument pas choquant d'avoir des discours de haine reproduits à des dizaines de millions d'exemplaires, sur des dizaines ou centaines de millions de faux comptes. 

Outre leurs rôles de modération, les plateformes mettent en avant la valeur de nos comptes personnels et nous invitent à les sécuriser en les connectant à nos téléphones. Récemment Twitter a ainsi fait scandale en invitant ses utilisateurs à renseigner leurs numéros de téléphone pour des raisons de sécurité, avant de finalement les monétiser et les vendre à des annonceurs. Les intérêts marchands de ces entreprises couplés avec une opacité et une complexité très importante de leurs modes de fonctionnement, ne permettent-ils pas finalement des décisions arbitraires dans l'usage des données personnelles collectées ? La dernière décision du gouvernement américain de ne pas poursuivre le PDG de Facebook, Mark Zuckerberg, malgré d'importants soupçons d'usages illégaux d'informations privées, ne manifeste-t-il pas cet état d'impunité des plateformes tant au niveau social que politique et juridique ?

Nicolas Moreau : Ces plates-formes sont gratuites.

Or si c’est gratuit, c’est que l’utilisateur est le produit. Il est parfaitement normal et légitime que les développeurs de ces plates-formes cherchent à monétiser ce produit.  (Peut-être que tout cela est honnêtement annoncé dans les fameuses conditions d’utilisation que tout le monde accepte sans jamais les lire…)

L’impunité provient toutefois d’une apparence de juste accord : la gratuité, en échange de l’abandon de ses données personnelles.

Les utilisateurs ne s’en plaignent pas. Combien sont-ils, ceux qui accepteraient de fermer leur compte Facebook, Twitter, ou Instagram, en échange de l’exclusivité sur leurs données personnelles ?

La raison en est simple : perdre son compte Facebook a des conséquences immédiates et concrètes pour l’utilisateur. Perdre la propriété de ses données personnelles à des conséquences lointaines et très abstraites.

Dans ce « juste accord », peut être que le consentement des utilisateurs est vicié parce que l'utilisateur n'a pas conscience du prix qu'il paye pour l'usage de son compte. Mais le prouver est complexe. Les plates-formes ne seront donc pas inquiétées de sitôt par leurs utilisateurs.

Reste l’action des gouvernements contre ces plates-formes. Dans ce domaine, le temps se gâte pour elles. Facebook est dans la tourmente depuis le scandale Cambridge Analytica. Les velléités de taxes GAFA se multiplient, et certains candidats, comme Elizabeth Warren aux primaires Démocrates aux USA, n’hésitent plus à promettre le démantèlement de Facebook.

L’impunité face à l’Etat est donc loin d’être acquise. D’autant que les gouvernements auront toujours besoin de réaffirmer leur force face à des plates-formes de plus en plus puissantes.

Bernard Benhamou : Ces intérêts marchands peuvent en effet conduire à des comportement extraordinairement dangereux. Ce point a été analysé par des chercheurs, qui ont par exemple étudié des plateformes comme YouTube. Les algorithmes de YouTube soumettent en effet les utilisateurs à des vidéos de plus en plus radicales ou choquantes. C'est la conséquence d'une logique de cette plateforme qui a identifié les contenus radicaux comme étant addictifs. Par conséquent, les gens les consultent plus longtemps et pour la plateforme cela signifie une exposition plus longue à la publicité. Il est donc intéressant de remarquer que l'algorithme, pour des motifs marchands, favorise les contenus les plus radicaux. Il y a donc une complicité tacite, si ce n'est une complicité active, entre ceux qui proposent ces contenus et les plateformes numériques, qui visent surtout à un renforcer leurs audiences. 

Ces décisions sont actuellement prises dans une très grande opacité. Mais il me semble que cette opacité ne pourra pas tenir dans la durée. Deux phénomènes pourraient ainsi être remis en cause : d'une part, le fait de se retrancher derrière le prétexte du secret industriel ; d'autre part, le renforcement de l'influence des data-brokers. Ces data-brokers sont des sociétés qui gèrent de milliers de paramètres pour chaque individu afin d'organiser un ciblage le plus efficient possible. Elles sont donc capables de connaître précisément des individus, mais aussi de prévoir assez bien ses activités, sa santé, etc. Ces sociétés travaillent là aussi dans la plus grande opacité. Globalement, on ne peut pas rester ainsi dans une absence de régulation. Il est évident que les risques sont trop grands pour les individus mais aussi pour les démocraties elles-mêmes. Nous ne sommes certes pas dans la logique chinoise de contrôle, mais nous ne pouvons pas rester sur le modèle que Facebook et les plateformes imposent à leurs utilisateurs. Il nous faudra par conséquent revenir sur la régulation des modérations du contenu et sur l'usage des bases de données collectées. À mon avis, on voit bien que même les plus libéraux s'inquiètent de cette absence de régulation, jusqu'à envisager de remettre entièrement en cause le modèle économique des data-brokers.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !