Harcèlement scolaire : que faire contre le poison des algorithmes des réseaux sociaux ?

Atlantico : Une adolescente de 15 ans, victime de harcèlement scolaire sur les réseaux sociaux et notamment sur TikTok, s’est suicidée en septembre 2021 à Cassis. Sa famille vient de porter plainte contre le réseau social, rapporte France Info. Que sait-on, pour commencer, de l’impact réel des réseaux sociaux sur la santé mentale des adolescents ? Comment facilitent-ils le harcèlement ?

Fabrice Epelboin : En matière de harcèlement scolaire et de réseaux sociaux il y a des choses qui sont relativement faciles à appréhender, quand on a l’âge d’être un parent à tout le moins. Il y a une génération, le harcèlement scolaire s’arrêtait à la porte de l’école. Une fois rentrés à la maison, les élèves étaient préservés de ce genre de pratiques, placés à l’abri. Les réseaux sociaux ont mis un terme à l’existence d’un refuge passées les frontières de l’école. Les adolescents sont connectés 24 heures sur 24 et se couper de la connexion n’est pas une solution viable, puisque cela revient désormais à se couper de la société. Ce premier paramètre est très simple à appréhender pour des adultes, mais il faut reconnaître qu’il induit une rupture très significative avec l’expérience des générations précédentes. Autre aspect important, que les adultes n’ont généralement pas de mal à comprendre : le harcèlement engendre des effets de meutes - ou, à minima,  de complicité. Ceux-là, cela va sans dire, sont infiniment facilités par les réseaux sociaux. Ce sont ces mêmes réseaux sociaux qui permettent de faire groupe et de travailler collectivement, à des fins parfois positives… et parfois négatives, comme dans le cadre de harcèlement.

Malheureusement, c’est un comportement qui s’est considérablement banalisé dans la société. Il y est présent à toutes les strates, au sein de tous les camps politiques. Pire encore : c’est un comportement qui, chez les militants politiques de toutes sortes, est en passe de devenir normal. Généralement, ces militants (quelque soit le camp dont ils émanent) sont persuadés d'agir “pour le camp du bien” contre celui “du mal”. Ce type de comportement est désormais légitimé par les organisations militantes, porté en exemple. C’est un signe dangereux pour les enfants et les adolescents qui fréquentent aussi ces réseaux sociaux où des adultes donnent à voir de telles pratiques. On ne peut pas imaginer que des adultes donnent cet exemple à des enfants et s’étonnent, après coup, de voir les enfants reproduire cet exemple au sein d’un environnement scolaire.

Du reste, le phénomène est étudié en long en large et en travers depuis presque dix ans désormais. Le consensus est indéniable : les réseaux sociaux ont un impact psychologique très fort sur les adolescents. Là encore, cela n’est pas très complexe à envisager : il suffit de se pencher sur ce que des réseaux comme Instagram proposent comme contenus pour le comprendre. C’est le premier réseau social à avoir mis en place le système de filtre, qui permet d’afficher une vie rêvée au monde quitte à alimenter les complexes d’autrui. Les adolescents - et particulièrement les adolescentes - sont particulièrement concernées, en cela qu’elles développent de nombreux complexes physiques divers et variés. Cela est grandement facilité par le fait qu’elles ont à voir la vie rêvée des autres, la vie fantasmée de tout le monde. Il est facile, dans ce genre de situation, de développer un regard négativement biaisé sur soi.

L’avocat de la famille a notamment pointé du doigt le rôle de l’algorithme dans l’aggravation du problème initial. Quel est-il, exactement ? Peut-vraiment accuser TikTok ou son algorithme, aujourd’hui accusés de "provocation au suicide", "non-assistance à personne en péril" et "propagande ou publicité des moyens de se donner la mort" ?

Anthony Bem : Votre question soulève plusieurs interrogations. Tout d’abord, il faut se pencher sur la notion de responsabilité pénale, de manière générale. En matière de responsabilité pénale, il est nécessaire qu’il y ait une intention délictuelle ou coupable de la part de l’auteur. L’auteur d’une infraction pénale, pour être reconnu coupable, doit nécessairement avoir l’intention - ou la conscience ! - de commettre une infraction pour que celle-ci puisse être constituée en droit pénal. Quel que soit le délit pénal dont on parle, il faut bien se rappeler que l’élément intentionnel fait partie de la condition constitutive de l’infraction pénale. Cela vaut donc pour les accusations retenues dans ce cas de figure précis. Sans qualifier l’intention de l’auteur, l’infraction n’est pas poursuivable ou sanctionnable.

S’agissant du cas de TikTok, comment pourrions-nous considérer que la plateforme engage sa responsabilité sur le plan pénal tout en sachant que, bien entendu, il n’y a pas d’intention ou de conscience de commettre une infraction. Sur le plan juridique, il est donc probable que la plainte qui a été déposée ne conduise à rien, in fine. Et pour cause ! Aucun délit permettant d’engager la responsabilité pénale de TikTok n’existe en l’état et moins encore la condition de l’élément intentionnel ou moral, celle-ci fait complètement défaut. Il n’y a rien à espérer, malheureusement.

Peut-être cette plainte fera-t-elle avancer le droit, la réflexion, les mœurs, les usages, les politiques… Mais je crains qu’elle ne puisse déboucher sur une quelconque condamnation de TikTok.

Fabrice Epelboin : C’est bien le problème : dans l’écrasante majorité des cas, on ne sait rien (sur le plan technique) du rôle de l’algorithme des réseaux sociaux. Il s’agit presque systématiquement d’une boîte noire. Il n’y a qu’un seul algorithme que nous sommes capable d’analyser en détail, parce qu’il a été rendu public, et c’est celui de Twitter. De nombreuses études ont été réalisées pour comprendre ce qui pousse, ou non, un tweet à buzzer plus qu’un autre. Ceci étant dit, il importe tout de même de souligner que nous avions jusqu’à peu une petite idée de la réalité des algorithmes d’autres réseaux sociaux, quand ceux-ci étaient encore agencés autour de la construction sociale des utilisateurs. Depuis, les réseaux sociaux chinois sont arrivés sur le marché et nous ne savons pas comment ceux-ci codent leurs algorithmes. Ils ne sont pas liés à l’inscription sociale de leurs utilisateurs, qui peuvent n’avoir aucun ami et pourtant bénéficier d’un flux d’informations pertinent.

Dès lors, l'idée d'accuser l’algorithme est fantaisiste. TikTok, pas plus que n’importe quel autre réseau social, n’a les moyens de filtrer l’ensemble des contenus qui sont publiés sur son site. On en arrive aujourd’hui à une incompréhension totale entre la nature technique des réseaux sociaux, la capacité que l’on peut espérer avoir en termes de modération et la masse de messages publiés. Surveiller l’intégralité des conversations n’est simplement pas possible.

Sur le plan juridique, que pouvons-nous faire pour préserver nos adolescents de cette situation ? Quelles sont nos perspectives ?

Fabrice Epelboin : Sur le plan juridique, nous bénéficions du DSA (Digital Services Acts), qui permet de créer des canaux de retours vers les réseaux sociaux structurés. Si l’on reprend l’exemple de Twitter, il est possible de dénoncer via le DSA des propos qui tombent sous le coup de la loi. A condition, bien sûr, de qualifier la nature de l’infraction que l’on dénonce. Cette démarche est généralement secondée parce que l’on appelle des signaleurs de confiance car si un seul et unique citoyen dénonce une situation, les chances que cela soit pris en compte demeurent légères. Dès lors qu’un nombre élevé de citoyens dénoncent la situation en question - où que la situation fasse l’objet d’une dénonciation par un organisme désigné par l’Etat comme un signaleur de confiance -, celle-ci a de fortes chances d’être prise en compte. Plus important encore : le signaleur de confiance dispose de davantage de moyens juridiques pour contraindre la prise en compte de la dite situation, si celle-ci ne fait pas l’objet d’une attention suffisante. 

Ce mécanisme n’est pas inefficace… mais il renvoie la balle, il faut bien le rappeler, à une forme de justice privée. C’est la plateforme qui doit ensuite faire justice, évaluer l’infraction et éventuellement appliquer une sanction. C’est évidemment un problème, d’autant que notre population a généralisé, d’une certaine façon, le harcèlement (qui n’est dénoncé que de façon que très sélective). Autre élément à prendre en compte : le DSA ne concerne pas que la France seule. C’est un travail européen, ce qui implique une proportion de contenus à modérer qui dépasse l’entendement. En Chine, on compte un à deux millions de modérateurs pour surveiller l’ensemble du territoire numérique chinois. Si l’on se base sur ce même modèle, on peut légitimement penser qu’il faudrait environ un million de modérateurs pour assurer la bonne utilisation des réseaux sociaux en Europe. Ce n’est pas compatible avec le modèle économique - la gratuité - de ces plateformes. Il n’est financièrement pas possible de payer assez personnes pour jouer les modérateurs, ce que le législateur européen a tendance à ne pas prendre assez compte. Dès lors, il ne peut qu'y avoir des trous dans la raquette.

Anthony Bem : Pour l’heure, rappelons-le, les adolescents n’ont pas d’interdiction d’accès aux réseaux sociaux. Officiellement, TikTok accepte l’inscription des utilisateurs sur son réseau à partir de 12 ans, mais un texte a été récemment adopté par le Parlement et créé une « majorité numérique ». Celle-ci impose une obligation à toutes les plateformes de respecter un âge minimum, dont fait partie TikTok, laquelle vise à contrôler l’âge de l’utilisateur des réseaux sociaux. L’absence, pour l’heure, de contrôle de l’âge des usagers est un problème aujourd’hui, d’autant que les plateformes seraient matériellement en possibilité de le faire. On comprend qu’elles ne veulent pas scier la branche sur laquelle elles sont assises et c’est pourquoi il n’y a aucun contrôle, ni en amont, ni pendant, ni après l’utilisation. C’est encore une vraie cour de récréation pour tout le monde.

Le marché du numérique européen, qui introduit une obligation de vérification de l’âge minimum pour l’accès à de telles plateformes, annonce la naissance d’un droit des réseaux sociaux. Nous avons désormais d’autres textes à nous mettre sous la dent, en tant qu’avocats au-delà de la loi informatique et liberté de 1978, la loi pour la confiance dans l'économie numérique (LCEN) du 21 juin 2004 et le règlement sur les données à caractère personnel. En dehors de ces textes, il n’existe pas encore de “code de l’internet”, comme l’on pourrait parler de code pénal. Le législateur ne se préoccupe des problèmes qu’après leur apparition, c’est-à-dire a posteriori.

Dans le cadre des suicides des jeunes, rappelons que TikTok n’est pas la cause du problème. Une jeune s’était suicidée à l’époque de Périscope, après avoir alerté les internautes sur la plateforme, sans dire clairement ce qu’elle allait faire. Nous n’avons pas pu engager la responsabilité de la plateforme. TikTok n’étant pas non plus au courant - en théorie - du harcèlement moral, il n’est pas non plus possible de l’attaquer.

Ceci étant dit, dès lors que l’on peut légitimement considérer que la plateforme est au courant de tels agissements et de l’existence d’un danger comparable, la situation change. La loi, dite LCEN, qui pose la question des régimes de responsabilité des sites internet, estime qu’un média est éditeur de son contenu. Il engage donc sa responsabilité (sauf dans le cadre de commentaires publiés sous les articles, par exemple). Pour les réseaux sociaux, on parle en revanche d’un statut d’hébergeur de contenus. En qualité d’hébergeur de contenus, la responsabilité de la plateforme peut être engagée s’il lui est notifié l’existence d’un contenu illicite. Si un enfant est victime de harcèlement, il faut donc le signaler à TikTok (Irlande, en l'occurrence puisque c’est la branche qui gère l’ensemble des TikTok européens sur le plan juridique) par le biais d’un courrier en lettre recommandé. A compter du moment où TikTok est notifié du caractère illicite d’un contenu, il ne peut plus contester l’intention et il devient possible de mettre en jeu la responsabilité civile ou pénale de la plate-forme.

Dans certains cas, le harcèlement passe par des créneaux privés, comme cela peut-être le cas de discussions WhatsApp. Comment intervenir, face à ce type de situation où peuvent se déployer certaines des campagnes de harcèlement les plus dures ?

Anthony Bem : Le caractère privé ou public du harcèlement ne change rien sur le plan légal. Un commentaire qui s’inscrit dans une logique de harcèlement, dont on sait qu’il existe, permet d’engager la responsabilité de l’individu, même si celui-ci n’aura rédigé qu’un unique commentaire. De même, sur une discussion globale, on peut être responsable pour un unique message. Quand bien même cette discussion serait privée et non publique, cela ne change pas la donne en matière de droit. Le harcèlement reste le même. Le fait d’envoyer des messages, des SMS, d’appeler des gens… Tout ce qui compte c’est le fait de nuire à la tranquillité de la victime. C’est à ce moment-là que l’on tombe dans l’infraction.

Ne perdons pas de vue que tous les contenus sont matériellement envoyés dans des machines informatiques qui gardent des traces. Il suffit donc d’une ordonnance d’en urgence du juge pour obtenir une décision en 24 heures qui permet de solliciter TikTok pour que celui-ci produise les copies des messages envoyés. La plateforme est alors supposée les envoyer… Mais si elle ne le fait pas, elle ne s’expose pas à une quelconque sanction puisque, en l’occurrence, basée en Irlande et ne dépendant donc pas du droit Français. Il peut toutefois y avoir une astreinte, si l’avocat retourne devant le juge et expose sa situation. Cette astreinte permet à la victime de toucher de l’argent chaque jour où l’entreprise ne répond pas. 

Fabrice Epelboin : Sur WhatsApp, ce n’est pas possible. Les Anglais ont demandé à avoir une backdoor et la question a d’ailleurs été abordée pour l’Europe entière. Les problématiques de sécurité qu’une telle demande soulève sont si colossales que le gouvernement britannique a fini par renoncer à sa demande et ce n’est pas nécessairement une mauvaise chose. Si de telles requêtes étaient effectivement menées à terme, les perspectives orwelliennes seraient proprement terrifiantes. Accordons le bénéfice du doute à nos voisins d’Outre-Manche, qui n’avaient probablement pas bien réalisé la portée de leur demande. La perspective de donner l’accès aux Etats aux conversations privées des citoyens - dont la nature privée est d’ailleurs garantie par le chiffrement de bout en bout - est absolument terrifiante. 

Il n’y a guère que l’Education nationale qui est dans une position permettant une potentielle intervention… et ce n’est pas nécessairement à elle qu’il reviendrait d’intervenir. Elle pourrait, c’est une évidence, signaler certains des problèmes dont elle est le témoin. Il y a clairement, à ce niveau, d’importantes défaillances. Nous sommes encore dans une logique du “pas de vague”, qui dure au moins depuis le décès de Samuel Paty. Il faut y mettre fin et sanctionner de la façon la plus dure qui soit celles et ceux qui s’ancrent encore dans cette logique. On peut encore faire en sorte qu’un élève, qui vient voir l’administration de son école, soit pris au sérieux quand il expose son problème de harcèlement. Il faudrait aussi décider de croire les victimes. Bien sûr, tout cela passe par d’éventuelles campagnes de sensibilisations permettant de convaincre les élèves de s’exprimer quand ils souffrent de harcèlement.

Quelle est la bonne stratégie pour, éventuellement, faire plier les géants du web et des réseaux sociaux ?

Fabrice Epelboin : Dans l’absolu, la plus évidente des réponses c’est la loi. Accompagnée d’amendes colossales quand celle-ci n’est pas respectée. Le problème, en pratique, vient du fait que les réseaux sociaux demeurent des vecteurs d’influences de puissances étrangères qui, pour certaines, sont aujourd’hui des alliés. L’un d’entre eux - Twitter - a été un vecteur très important avant de s’effondrer après le rachat par Elon Musk. Ce sont aussi des cordons ombilicaux d’un point de vue culturel, comme l’illustrent des mouvements comme MeToo ou la mouvance post-coloniale. Dès lors, le rapport de force qu’on établit avec ces plateformes est aussi un rapport de force avec la puissance américaine…