Vidéos "dangereuses" : YouTube face au vertige d’une guerre sans fin

Atlantico : Le site Youtube a retiré des vidéos sur le maniement des armes à feu après la tuerie de Las Vegas. Les vidéos de ce genre ou bien d'autres concernant des prêches religieux ou des fabrications de bombes sont remise après suppression. Alors est-il possible de modérer les plateformes de vidéos en ligne pour supprimer ces contenus vu le mode de fonctionnement du site ?

Gilles Babinet : Ce débat a eu lieu à maintes reprises, notamment lorsque des lois ont été discutées sur les responsabilités qui incombent aux JSP, les JavaServer Pages qui permettent d’encoder des pages internet et les éditeurs et il a été démontré qu’il ne pourrait pas y avoir de modération à priori. Dans les tous les cas, ce sera une modération a posteriori. Ce que l’on arrive assez bien à faire, c’est la protection des contenus « copyrightés » en supprimant les copies, c’est à dire, des gens qui mettent de la musique ou des films qui appartiennent à des  ayants droits dans la mesure où ils reproduisent un contenu qui est connu. On peut assez facilement les effacer. Ce que l’on arrive moins bien à faire, c’est identifier a priori un contenu unique, une vidéo postée pour la première fois.

Quelles peuvent être les techniques auxquelles peuvent avoir accès les modérateurs pour mieux trier le contenu des vidéos mises en ligne ?

Ce qu’il serait assez facile à faire, c’est de mettre une empreinte, « fingerprint », une reconnaissance de l’empreinte de la vidéo que l’on souhaite supprimer et faire en sorte que toute personne qui essaye de remettre cette vidéo soit empêché par la plateforme qui reconnaîtrait cette empreinte. Il n’y a, à ce jour, aucun obstacle technique pour mettre en oeuvre cette solution. La vidéo pourra être en ligne quelques minutes, mais s’il y avait un passage du fingerprint pendant le téléchargement ou juste après celui-ci, a priori, on pourrait éviter de faire ce genre de chose. Le seul problème avec l’empreinte réside dans le fait qu’il suffirait de faire démarrer une vidéo interdite à un autre moment, avec une autre résolution pour qu’elle puisse être diffusée. Les bonnes technologies de fingerprint peuvent cependant détecter ces manipulations.

Pour les vidéos qui sont remises en ligne, il existe des solutions technologiques, qui ne sont pas utilisées. Pour je ne sais quelle raison, les plateformes ne les ont pas mises en place. Sur les vidéos qui sont mises en ligne la première fois, il est beaucoup plus compliqué d’agir. Il faudrait qu’il y ait une multitude de personnes qui pourrait aller très vite voir les vidéos qui sont mises en ligne et surveiller celles qui sont illicites. Il faut savoir que chaque minute, il y a une centaine d’heure de vidéos qui sont publiées. Une centaine de personnes devrait être présente en permanence afin de pouvoir faire une première modération à priori. Ce genre de chose est assez compliqué. Néanmoins, on peut espérer qu’à moyen terme, des outils d’intelligence artificielle soient mis en place et puissent pré-détecter les contenus sensibles et les présenter à des opérateurs humains qui prendraient des décisions d’action ou non.

Quant à l’intelligence artificielle, elle peut rechercher une vidéo qui ressemble à une vidéo. Lors de la tuerie de Las Vegas, de nombreuses vidéos ont été tournées. En analysant les mêmes empreintes lumineuses, les mêmes types de personnes, on peut retrouver des éléments semblables qui vont nous permettre de retrouver beaucoup plus rapidement des vidéos du même type que si ce travail était effectué manuellement.

Les vidéos solitaires sont plus difficiles à isoler. Une vidéo d’un crime quelconque, qu’un seul individu aura posté, sera plus difficile à retrouver. Les signalements d’internautes scandalisés par la vidéo seront l’un des seuls moyens de la retrouver. Cela prend plus de temps. L’essentiel de la modération fonctionne toujours comme ça. Les plateformes doivent d’avantage mettre de technologie. La volonté de bloquer la première vidéo dangereuse avant qu’elle ne soit publiée par une personne est un vœu pieux qui va à l’encontre de l’esprit d’internet. Aux Etats-Unis, la loi du Copyright Act permet d’infliger des amendes colossales en millions de dollars en cas de publication de vidéos protégées. On pourrait s’inspirer de cette technique pour bloquer les vidéos litigieuses.

Enfin, il est difficile de déterminer l’importance et la véracité d’une vidéo entre celle qui sera réalisée une scène de guerre en Ukraine qui mérite d’être diffusée et une autre qui n’aura pas de visée informative. Seuls les humains peuvent trancher.

Est-ce que la modération de ce type de vidéos n'est pas un combat vain dans la mesure où ces vidéos rapparaissent toujours ?

Nous n’avons pas d’éléments. J’ai essayé de trouver des informations sur les vidéos litigieuses mais ce que j’ai pu voir, c’est que le problème concerne les vidéos repostées. Il y en a eu beaucoup dans le cadre de l’attentat de Boston ou les vidéos ont été vraiment repostées. Cela provoque beaucoup d’émoi pour les personnes qui étaient dans cet attentat et qui revivent ces images. Il n’y a pas d’éléments statistiques. Beaucoup de vidéos peuvent être remontées. Ce phénomène est tout de  même assez important. Des plateformes moins évoluées que YouTube peuvent permettre de reposter ces vidéos.