Modération biaisée : derrière le cas Mila, ces questions gênantes auxquelles refusent de répondre les réseaux sociaux

Atlantico : Mila, harcelée pendant presque deux ans, peine à se voir traiter de manière impartiale par les réseaux sociaux. Son compte Twitter a notamment été suspendu en mars 2021. Le réseau social a rapidement fait marche arrière, évoquant une « erreur ». Comment expliquer que son compte soit censuré et pas ceux des personnes qui l’ont insultée et menacée de mort ? Est-ce lié au fonctionnement des algorithmes ?

Fabrice Epelboin : Un algorithme ne peut pas reconnaître ce que l’on définit comme une « menace de mort ». Il repère en revanche des taux d’engagement, de conversion, un certain temps passé sur tel ou tel produit … Ils permettent d’exercer une modération en se basant sur le retour des utilisateurs. Si un grand nombre de personnes tombent sur une publication de Mila et décident de la signaler, le système prendra en compte ces signalements et la publication sera automatiquement retirée. 

A l’inverse, un compte isolé qui profère des menaces de mort envers une seule et unique personne ne sera pas signalé par un grand nombre d'individus. Il ne sera donc pas supprimé. C’est tout le problème des algorithmes, et ce phénomène existe depuis une dizaine d’années.

Lorsqu’intervient une décision humaine pour arbitrer ces signalements, elle peut alors décider de revenir sur la décision. Ces arbitrages se font au cas par cas. 

Certaines personnes, notamment certains groupes militants sont-ils plus enclins à effectuer des signalements ?

Il existe des niveaux de maturité très disparates sur ces questions au sein des différents groupes militants. 

En premier lieu, il y a ce que l’on appelle vulgairement les « fachos ». A la fin des années 1990, ces personnes ont été exclues des médias traditionnels et se sont emparées d’internet, puis des réseaux sociaux. Ils ont une génération d’avance sur les autres et connaissent tous les codes du militantisme en ligne : comment défendre ses idées, comment attaquer le clan adverse … 

Il y a ensuite toute la population maghrébine qui a vécu le printemps arabe par procuration sur les réseaux sociaux. Ayant vécu la révolution tunisienne à travers le prisme de Facebook, cette population a perdu toute forme de confiance envers les médias. En tant que groupe social, ces personnes se sont forgé une solide connaissance des réseaux sociaux et de leur usage à des fins politiques.

Quelques années plus tard, les militants de gauche proches du mouvement de la France Insoumise ont commencé à investir ces milieux. Ils ont fait de nombreuses expériences et ont appris de leurs échecs. Ils savent parfaitement mener une guerre des idées sur internet. 

Enfin, la droite républicaine et la République en Marche ont longtemps considéré l’usage des réseaux sociaux comme un « gadget ». Ils se sont intéressés assez tard à ces questions.

Le niveau d’acceptabilité de certains discours peut-il varier d’un pays à l’autre ?

Le discours français sur la laïcité est considéré comme raciste aux États-Unis. A l’inverse, le discours racialisant qui vient des États-Unis, ou la race est considéré comme un élément identitaire, est totalement inacceptable en France. Même si nos cultures nous semblent proches, il y a un cultural gap important, ce que les algorithmes ne parviennent pas à comprendre. A titre d’exemple, sur les chaînes américaines, on peut voir des émissions « pour les noirs » ou « pour les latinos », ce qui parait impensable en France. 

Certaines photos publiées sur le compte TikTok de Mila ont été censurées sous prétexte qu’elles présenteraient un caractère pornographique, ce qui n’est de toute évidence pas le cas. Même son de cloche lorsque la jeune femme fait appel de la décision et qu’une personne vérifie physiquement les contenus. Comment expliquer cette censure ?

Si des milliers de personnes dénoncent ces photos et décrètent qu’elles présentent un caractère pornographique, alors l’algorithme agira en tant que tel. 

Il faut surtout se demander où a été réalisée la modération humaine, et dans quelles conditions. Lorsque Twitter ou TikTok font appel à un service de modération francophone, ils ne peuvent pas le trouver en France car le coût du travail est beaucoup trop élevé. De plus, on sait que ces métiers peuvent engendrer de lourdes conséquences psychologiques sur les travailleurs. 

Pour modérer les contenus en français, les géants du numérique cherchent donc un pays francophone, avec un faible coût de la main d'œuvre et qui présente peu de contraintes relatives au droit du travail. Ils se dirigent donc souvent vers les pays du Maghreb, ou Mila est très connue. Cette situation peut donc poser un véritable problème dans cette affaire.