La proposition de loi pour lutter contre la haine sur internet dit Loi Avia vient d’être adoptée en première lecture par l’Assemblée Nationale. Ce texte a pour ambition de réguler les contenus haineux sur le web en rendant responsables les sites qui hébergent de tels contenus.

Si l’objectif de base est louable, internet étant devenu un lieu où n’importe qui peut étaler sa haine, l’efficacité pratique d’une telle loi peut néanmoins être questionnée.

L’article 1 de cette loi stipule que les plateformes en ligne doivent supprimer un contenu considéré comme haineux dans les 24 heures après son signalement. Cela pose un double problème : technique et constitutionnel.

La complexité technique d’un tel article est facile à appréhender, supprimer un contenu jugé haineux sur une plateforme comme Twitter, qui génère par seconde quelques 5900 tweets, relève d’un travail de titan. Un système de signalement libre, comme le souhaite le gouvernement, conduirait à créer des centaines de milliers de demandes de suppression par jour ; bien loin des capacités de vérification de la plateforme.

Deux solutions se posent alors. Soit les plateformes comme Twitter embauchent une armée de modérateurs pour se mettre en conformité avec la loi, soit elles mettent en place un système de traitement automatisé des demandes, comme Youtube le fait pour contrôler les vidéos sur sa plateforme.

En réalité ces deux solutions ne sont pas viables. La première est la limite humaine et économique de la modération. Compte-tenu de la masse de contenus produite chaque jour sur les réseaux sociaux, il est économique impossible pour une entreprise de recruter suffisamment de modérateurs pour supprimer l’ensemble du contenu « haineux » en 24h. 

L’option d’automatiser le traitement des contenus n’est pas non plus une solution viable. Si un programme peut traiter sans problème l’ensemble des contenus publiés par jour, son efficacité serait amoindrie par son incapacité à faire le tri entre les propos tombant réellement sous la désignation de « haineux » et ceux relevant de la liberté d’expression.

Un système de vérification par logiciel est déjà mis en place chez Youtube ou Facebook pour filtrer le contenu jugé offensant ou soumis à des droits d’auteur avec des dérives qui frôlent parfois la censure.

Ainsi Facebook jugera offensant et supprimera sans avertissement toute représentation picturale de parties génitales, y compris les œuvres d’art tel que les tableaux ou les statues.
Du coté de Youtube, toute vidéo traitant du régime nazi ou du 11 septembre se verra démonétisée (la vidéo ne sera pas précédée d’une publicité) empêchant ce dernier de toucher une rémunération.

Cette politique ultra stricte de la part de ces deux géants du web confine à la censure dans le sens où de nombreux créateurs de contenus n’osent plus traiter ces sujets « tabous » y compris sous un angle historique. In fine une vérification par un humain sera nécessaire, entrainant des coups importants pour les opérateurs.

De même, le filtrage des contenus haineux devra se faire au cas par cas au risque d’entraver la liberté d’expression. Le fait de devoir supprimer le contenu en moins de 24h ne permet pas le recours à un juge pour statuer sur le fond des propos, l’hébergeur du contenu aura donc le pouvoir discrétionnaire de supprimer tout contenu qu’il juge haineux.

Donner un tel pouvoir à une multinationale n’est pas sans soulever quelques craintes. Compte tenu des dérives citées ci-dessus, on peut craindre que les géants du web ne pratiquent une forme de censure en supprimant tout contenu qui ne correspondrait pas à leurs critères moraux. 

La loi Avia part donc d’une bonne intention mais les contraintes techniques et juridiques font davantage de ce texte une déclaration d’intention qu’un véritable outil pour lutter contre les propos haineux sur internet.

Équipe Uprightly

Uprightly, bureau de conseil stratégique.