Atlantico, c'est qui, c'est quoi ?
Newsletter
Décryptages
Pépites
Dossiers
Rendez-vous
Atlantico-Light
Vidéos
Podcasts
Justice
Crédits Photo: ANNE-CHRISTINE POUJOULAT / AFP
haine en ligne France Bruxelles Jean Castex

Législation

Haine en ligne : à Bruxelles comme à Paris, une réponse législative pas à la hauteur du défi sociétal

A Bruxelles, les propositions de la Commission relatives au futur Digital Service Act sont attendues pour le début du mois décembre dans le cadre du débat sur la régulation des contenus en ligne. En France, l’attentat de Conflans-Sainte-Honorine mobilise également le gouvernement sur ces questions.

Jean-Sébastien  Mariez

Jean-Sébastien Mariez

Jean-Sébastien Mariez est avocat, ancien de De Gaulle Fleurance et associés. Il vient de fonder son cabinet Momentum Avocats. Ses fonctions successives l’ont amené à être partie prenante des évolutions réglementaires majeures pour les métiers du numérique (Web 2.0, Cloud, logiciels, jeux vidéo, e-commerce et moteurs de recherche).

Voir la bio »

Haine en ligne : à Bruxelles comme à Paris, des éléments de solution en gestation. A Bruxelles, le débat sur la régulation des contenus en ligne bat son plein - les propositions de la Commission relatives au futur Digital Service Act sont attendues pour début décembre et les discussions relatives au Règlement relatif à la prévention de la diffusion de contenus à caractère terroriste en ligne s’accélèrent. En France, l’attaque tragique de Conflans-Sainte-Honorine donne lieu à de nombreuses propositions du gouvernement en échos à l’annonce par le Premier ministre Jean-Castex de sa volonté de renforcer la lutte contre la haine en ligne. Auditionné récemment à l’Assemblée nationale, le président du CSA Roch-Olivier Maistre indiquait quant à lui que son institution « privilégie beaucoup le chantier en cours au niveau de la Commission » européenne. L’approche semble rationnelle tant il est essentiel en la matière d’éviter une situation de « millefeuille législatif » et l’écueil d’un cadre réglementaire qui n’apporterait par toute la clarté requise quant au rôle et responsabilité des parties prenantes.

Enjeu commun des réformes annoncées, une effectivité accrue des dispositifs de retrait et de modération existant est l’objectif recherché par le législateur, qu’il siège à Paris ou à Bruxelles. Sans doute nécessaire afin d’encourager et d’encadrer la contribution des plateformes en ligne, l’aménagement du cadre juridique devra tirer les leçons de l’échec de la loi « Avia ». Surtout, la réaction législative ne devra pas masquer le véritable enjeu qu’est la nécessaire mobilisation de toutes les parties prenantes et l’allocation de moyens à la hauteur du défi sociétal auquel il doit être fait face.

Pour une lutte effective contre la haine en ligne, une mobilisation de toutes les parties prenantes.

Les plateformes en ligne oui, mais pas seulement. En période de discussion du projet de loi de finance pour 2021, on aurait pu s’attendre à ce qu’un débat émerge quant aux moyens qu’il est indispensable d’allouer pour contrecarrer la dissémination des contenus haineux. S’il ne fait aucun doute que les plateformes numériques doivent être partie intégrante du dispositif remanié, celui-ci restera incomplet à défaut de développer des mesures fortes à l’encontre d’une part, des auteurs des contenus haineux et du traitement judiciaire approprié et d’autre part, de leurs lecteurs et de leur sensibilisation et éducation aux média. La question des moyens, plus que de nouveaux textes de loi, doit être remise au cœur des débats.

Plus de moyens pour la justice. Parmi les premières mesures annoncées par le gouvernement, on compte par exemple la volonté du Premier ministre de renforcer de la plateforme de signalement Pharos et la promesse du Ministre de la justice d’installer le parquet numérique spécialisé d’ici la fin de l’année. Autant de mesures essentielles et bienvenues. A n’en pas douter, elles s’avèreront cependant déceptives si ce n’est pas toute la chaine judiciaire qui est dotée des moyens d’un traitement « en temps réel » des procédures commises en ligne. La lutte contre le sentiment d’impunité qui prospère parmi les auteurs de contenus haineux est à ce prix. Les députés européens ont à ce sujet souligné que le retrait des contenus doit être suivi en tant que de besoin, par un traitement judiciaire.

Plus de moyens pour l’éducation et la formation. Développer notre libre arbitre, cultiver l’esprit critique des lecteurs par des dispositifs d’information et de sensibilisation, voilà un autre élément de solution qui reste pourtant absent des récentes annonces. On doit le regretter. L’éducation, ne semble à ce jour toujours pas partie prenante du dispositif en cours d’élaboration. Seule annonce, « le permis internet » évoqué par la député Avia ne constitue pas une nouveauté et fait mine de mesurette dès lors qu’ici encore, il ne serait pas assorti de dotation de moyens supplémentaires aux établissements scolaires. 

Un enseignement majeur de la censure par le Conseil constitutionnel : ne pas nier la complexité. La qualification juridique des contenus signalés aux plateformes en vue de leur retrait est un exercice complexe. En juin dernier, dans sa décision relative à la loi de lutte contre la haine sur internet, le Conseil constitutionnel soulignait la difficulté de l’exercice liée à sa technicité juridique et à la contextualisation qui s’avère souvent nécessaire. On s’en souvient, l’absence de prise en compte de cette difficulté, associée au risque de lourdes sanctions a précipité la censure de ce texte. Les Sages ont considéré qu’un tel dispositif constituait une incitation des opérateurs de plateformes en ligne à retirer des contenus qui ne seraient pas illicites. Pour le Conseil, plus la qualification juridique d’un contenu est susceptible de donner lieu à débat, appréciation ou controverse, plus le risque est grand que son retrait constitue une atteinte disproportionnée à la liberté d’expression. En creux, cette décision consacre la nécessaire différenciation entre le traitement par les plateformes des contenus manifestement illicites, de ceux qui ne sont pas manifestement illicite dont le traitement doit être déférés au juge et des contenus qui sans être illicite sont préjudiciables et susceptibles de faire l’objet de mesures de modérations en application des conditions d’utilisation des plateformes. Les échos de cette décision et la nécessaire proportionnalité des mesures requises des plateformes se font entendre dans le cadre des débats à Bruxellois - en particulier, au sein de la position de la France et du rapport de la Commission IMCO qui préconise d’adapter « la gravité des mesures qui doivent être prises ... à la gravité de l'infraction ». Un nécessaire « deux poids mesure ».

Encourager et encadrer la mise en œuvre de mesures de modération volontaires. Si les propositions de la Commissions attendues début décembre donneront le « la » en la matière, un élément supplémentaire de solution ressort à la fois des travaux du Parlement européen et de la position Française. Il consiste à établir une nouvelle obligation de vigilance à la charge des plateformes. Ces contours précis restent à préciser mais l’obligation imposerait aux plateformes de justifier de leurs meilleurs efforts dans la mise en place de dispositifs de modération proactive (à savoir, sans notification préalable des contenus) transparents, non-discriminatoires et proportionnés. L’effectivité du dispositif serait contrôlée sous peine d’amendes par un organisme européen ad hoc en coopération avec les autorités des Etats Membres. C’est le principe de cette obligation que la députée Avia ambitionnerait de reprendre dans le cadre d’une version remaniée du texte censuré en juin dernier.

La question de savoir si cette obligation serait limitée aux contenus illicites ou s’étendrait aux contenus préjudiciables semble ouverte à ce stade. Les avis convergent cependant sur la nécessité de ne pas mettre tous les contenus « dans le même sac ». A contenu différent, traitement différent et ce, selon des critères liés à leur caractère illicite ou non, leur gravité et aussi le type de service en cause ou leur utilisateurs (on pense aux mineurs). Quelle que soit l’option retenue, une certitude : la clarté du dispositif à venir sera une clé de sa réussite.

A titre incitatif, une clarification attendue réside dans la mise en place de la clause dite « du bon samaritain ». A défaut d’une ligne claire dégagée par la jurisprudence, la mise en œuvre de dispositifs de modération proactive est aujourd’hui source d’une insécurité juridique susceptible de décourager ceux qui, parmi les fournisseurs de services, souhaitent s’engager dans cette voie. La crainte avancée par ces acteurs est de tendre le bâton pour voir leur responsabilité engagée du fait des mesures mises en place. Comme il a été relevé par les députés européens, selon leur nature, les mesures mises en place peuvent en effet alimenter un faisceau d’indice caractérisant de leur part un « rôle actif » les privant ainsi du bénéfice du régime de responsabilité limitée issu de la Directive e-Commerce. A ce titre, afin d’encourager leur déploiement, les dispositifs reposant sur des moyens automatisés devront bénéficier de la clause du bon samaritain - les limitations propres aux technologies algorithmiques et leurs biais éventuels est un enjeu à part entière qui devra être solutionné par ailleurs. Cette exemption devrait aussi s’étendre aux vérifications non automatisées mise en œuvre pour une finalité de modération volontaire. A défaut, le risque est d’entretenir non sans paradoxe, une situation où plus les plateformes jouent le jeu de la modération plus leur risque juridique augmente. L’incitation serait encadrée dès lors que les dispositifs mis en place seront contrôlés au titre des obligations systémiques et que les plateformes pourront toujours faire l’objet d’actions en cessation revêtant la forme de décisions de tribunaux ou d’autorités administratives indépendantes exigeant le retrait de contenus ciblés.

Jean-Sébastien Mariez est avocat.

En raison de débordements, nous avons fait le choix de suspendre les commentaires des articles d'Atlantico.fr.

Mais n'hésitez pas à partager cet article avec vos proches par mail, messagerie, SMS ou sur les réseaux sociaux afin de continuer le débat !