Réseaux sociaux : l'Arcom juge les plateformes sur leurs efforts pour lutter contre la haine en ligne

L'Arcom, l'Autorité de régulation de la communication audiovisuelle et numérique, a publié un rapport le 24 juillet sur la lutte contre la haine en ligne par les grandes plateformes. Réalisé sur la base d'un questionnaire adressé à 11 plateformes, il intervient en amont de l'entrée en vigueur du DSA (Digital Services Act) en août prochain. D'après l'Arcom, "les outils et les procédures mis en place pour lutter contre les usages abusifs des principales plateformes en ligne" se sont "améliorés", de même que la transparence, mais cet "effort doit être poursuivi" si les plateformes veulent se conformer à la future réglementation.

Plus d'un million de signalements sur Twitter en 2022

Si de nombreuses réponses au questionnaire de l'Arcom sont classées "confidentielles", on apprend cependant quelques éléments sur le nombre et l’origine des signalements de contenus à caractère haineux, ainsi que sur les moyens humains dévolus à la modération. Par exemple, Twitter – rebaptisé "X" - indique que 149 modérateurs, "dont des francophones", s'occupent de traiter les signalements provenant de la version française du réseau social. Twitter est épinglé par l'Arcom pour l'insuffisance des indicateurs mis en place pour mesurer la prévalence des contenus illicites transitant sur sa plateforme, et pour l'impossibilité de signaler un contenu illicite pour un utilisateur qui ne serait pas connecté (ce qui est également le cas sur LinkedIn et Pinterest).

En 2022, le rapport fait ressortir que 12 424 contenus haineux ont été signalés sur Facebook et Instagram, 24 184 sur Snapchat, 395 302 sur TikTok, et 1 159 206 sur Twitter. Sur les réseaux sociaux de Meta ainsi que sur Snapchat, l'intégralité des actions de modération prises à la suite de ces signalements (représentant 39% des signalements sur Facebook et Instagram, et 23% sur Snapchat) ont été réalisées "après décision humaine". Ce n'est pas le cas sur TikTok et Twitter, qui procèdent en partie de manière automatisée. Twitter a modéré 25% des contenus signalés.

L'Arcom souligne le taux élevé d'infirmation des décisions initiales de modération sur TikTok (41%) après contestation, ce qui selon l'Autorité "interroge sur la pertinence de l’action de modération initiale".

Collaboration avec les autorités publiques

Motif de satisfaction pour l'Arcom, en revanche, le "taux particulièrement élevé de réponses positives (près de 85 %) aux demandes d’information des autorités françaises aux fins d’identifier l’auteur potentiel d’un contenu haineux en ligne". Les autorités publiques ont par exemple demandé plus de 6000 fois à Google de leur transmettre des données au premier semestre 2022. Elles ont envoyé près de 25 500 demandes à Meta et plus de 5000 à Twitter sur l'ensemble de l'année. Sur Twitter, elles ont requis la suppression de 869 contenus, demandes auxquelles a accédé le réseau social dans 43% des cas.  

De quoi alimenter la réflexion du président de la République ? Lors de son interview télévisée le 24 juillet, depuis Nouméa, Emmanuel Macron a déclaré que la France devait "de manière partenariale avec ces plateformes, réussir à très vite retirer les contenus quand ils appellent à la violence, trouver en quelque sorte un ordre public numérique qui permette de prévenir ces débordements". Le chef de l'État faisait référence aux émeutes de la fin juin.