Ce devait être un moment de grâce et de beauté, mais l’élection de l’édition 2021 de Miss France a été profondément entachée par un scandale, la publication de tweets antisémites s’en prenant à l’une des candidates, April Benayoun, après que celle-ci ait voulu informer les téléspectateurs de TF1 de ses origines multiples, d’une mère serbo-croate et d’un père italo-israélien. C’est à partir du moment où elle précisait que son père est israélien que Twitter s’est enflammé. Une haine que l’on peut quantifier. En effet, selon les données observées par Visibrain (plateforme de veille médiatique), on constate que le nombre de tweets faisant référence à Israël a littéralement explosé dans la soirée, près de 40.000 tweets avec cette mention^[1]. Justement, lorsqu’il est question de racisme, de sexisme, d’homophobie ou d’antisémitisme, Twitter revient souvent sur le devant de la scène et provoque des polémiques. Pourquoi ? 

On se souvient que sur Twitter, le « hashtag #unbonjuif », avait suscité un nombre record de tweets à caractère antisémite qui témoignaient de la résurgence d’un racisme à l’égard des Juifs particulièrement inquiétant. Ce dérapage avait été dénoncé par plusieurs associations qui avaient assigné Twitter en justice pour contraindre le réseau à lui communiquer, avec l’autorisation du juge, les données permettant d’identifier les auteurs de tweets racistes et antisémites^[2]. Après des mois d’une longue bataille judiciaire, le réseau social américain avait livré les données susceptibles de permettre l’identification de certains auteurs de tweets antisémites. Autre exemple : les « pièges à juifs » qui fleurissaient en Belgique ou ailleurs sur les réseaux sociaux. Il s’agissait de clichés qui ciblent les Juifs. Par exemple, sur son compte Facebook un internaute avait déposé une image trouvée sur Twitter. Sur ce cliché, on pouvait y voir un four avec deux billets de banque qui représente ce « piège ». Or, sur Twitter, cela se répand très rapidement. On trouvait plusieurs clichés similaires, souvent avec un four renfermant des billets, parfois avec une boîte contenant quelques pièces. Plusieurs de ces clichés ont été signalés et retirés au fur et à mesure par le réseau social, mais de nouveaux clichés plus ou moins identiques fleurissent aussitôt.

Sur Twitter, la fonctionnalité est d’une simplicité enfantine. Vous créez votre compte en quelques secondes. Pour ce faire, vous pouvez utiliser un pseudonyme quelconque. Ce pseudonyme (ou votre nom de famille) s’ouvre par le fameux arobase : @. Puis, vous vous abonnez à d’autres comptes. Par la suite, vous pourrez créer des listes d’abonnés, suivre des sujets, découvrir les tweets populaires. A cet effet, il existe le référencement « Tendances pour vous. » Ce sont là les sujets (du jour) les plus populaires. Mais, que se passe-t-il si vous cherchez certains mots-clés, populaires ou non ? Que trouve-t-on par exemple, avec les mots « Nègre », « Youpin », « Bougnoul », par exemple ? Vous trouverez, forcément, des tweets profondément racistes, antisémites et homophobes. Dans ce cas-là, ce qui est incroyable ici c’est l’extrême pauvreté du langage, la misère de l’expression, les insultes qui fusent si facilement, souvent avec une connotation sexuelle, l’utilisation de smileys, etc. Et pourtant, ce sont là quelques tweets classés comme populaires. Pourquoi ? Tout simplement parce qu’ils ont été retweetés, commentés, échangés. Peu importe le sujet d’ailleurs. En ce sens, nous retrouvons ici au moins dix grandes particularités des réseaux sociaux, dont Twitter : 

– La simplicité. Au fond, il est si facile de déposer des posts comme ceux-ci. Il n’existe aucun verrou.

– L’anonymisation est souvent la règle. De nombreux internautes cachent leur identité réelle en utilisant des pseudonymes. Justement, parce qu’ils sont anonymes, ils se sentent invulnérables. 

– Dans le monde virtuel, les internautes sont débridés. C’est ainsi que sur Twitter, insulter n’est pas un problème, se moquer, non plus. Cela va jusqu’à l’appel au meurtre. 

– Le mimétisme est la règle. Lorsque des messages violents, injurieux, diffamatoires sont déposés, d’autres suivent et en plus grand nombre encore. Il y a un effet entraînant, celui de la violence, sans modération aucune.

– Les messages violents sont déposés avec une grande facilité. D’ailleurs, qui pour répondre ? Peu de monde, en vérité. Il faut du courage, pour le faire.

– Souvent, Twitter et d’autres plateformes s’érigent en tribunaux populaires permanents et certains thèmes deviennent viraux. Dans cet univers, le racisme s’alimente très facilement. C’est alors une avalanche de propos violents.

– La viralité peut être liée à une actualité immédiate. Certains sujets déchaînent les passions (les Gilets jaunes, par exemple). Pas de place sur Twitter et surtout en 280 caractères (ce qui est peu) pour poser des arguments intelligibles. Les réactions sont plutôt impulsives, émotionnelles, caractérisées. C’est alors le temps de l’insulte gratuite.

– La rapidité à laquelle ces messages sont postés est un atout. L’entraînement, la violence, la haine se répandent sur les réseaux sociaux à « vitesse grand V ». C’est le temps de l’immédiateté. S’effectue par la suite, l’archivage des données. 

– La modération est insuffisante.

– Par contre, éduquer, déconstruire prend énormément de temps. Nous ne sommes pas dans le même espace-temps, celui de la publication et celui de la déconstruction. Et là est la difficulté. 

Twitter, c’est donc (aussi) cette valse horrible de messages en 280 caractères :

« Sale juif, tu vas crever », « ta mère est morte dans les camps, tu vas crever », « va te faire foutre sale juif », « sale pd », « femme, je te viole », « j’vais te défoncer sale noir », « Nique la France », « J’baiserai la France, jusqu’à ce qu’elle m’aime », « Tu parles des arméniens de 1915, ils auraient dû tous vous tuer », « ça sent le brûlé, il y a un juif à côté de moi », « parle français, sale noir », « …ta gueule, sale français de merde, dommage que tu sois pas mort au Bataclan », « sale musulman, on va t’égorger »^[3].

Modération insuffisante ?

Comme d’autres plateformes, Twitter dispose d’un dispositif donnant la possibilité à chaque utilisateur de signaler tout Tweet (texte, photos, images) ou profil en violation de ces règles et des conditions d’utilisation, et différentes catégories ont été listées, comme la conduite haineuse^[4]. Différentes catégories apparaissent également comme la « glorification de la violence », les « groupes extrémistes violents », « suicide ou conduites autodestructrices » et les contenus sensibles. De fait, les signalements peuvent s’effectuer directement depuis un Tweet ou un profil donné pour certaines infractions, notamment si les propos tenus sont inappropriés ou dangereux. Justement, si vous cliquez sur « Signaler un problème », six catégories apparaissent à l’écran, dont « ce Tweet ne m’intéresse pas » ou « les propos tenus sont inappropriés ou dangereux. » Si vous cliquez précisément sur cette dernière catégorie, une sélection apparaît automatiquement :

– Les propos tenus sont irrespectueux ou choquants.

– Des informations privées y sont dévoilées.

– Il s’agit de harcèlement ciblé.

– Les propos incitent à la haine envers une catégorie protégée (sur la base d’une race, d’une religion, d’un sexe, d’une orientation sexuelle ou d’un handicap).

– L’utilisateur menace de faire usage de la violence et de blesser quelqu’un.

– Il incite à l’automutilation ou au suicide.

Si vous cliquez sur le quatrième onglet de cette liste : « Les propos incitent à la haine envers une catégorie protégée… », on vous demande d’expliquer qui est la cible du compte que vous signalez : vous, quelqu’un d’autre ou un groupe de personnes. Puis, on vous propose d’ajouter au moins cinq Tweets à ce signalement, afin de lui donner plus de consistance, si cela est possible. Et, vous envoyez le tout. Vous recevez ensuite un message : « Si nous constatons que ce compte enfreint les Règles de Twitter, nous prendrons les mesures nécessaires^[5]. » Quelques temps plus tard, vous recevrez notification de la suppression ou non du compte avec votre signalement. Mais, selon quel modèle ? La plateforme dit passer en revue les comptes. Les modérateurs prendraient les sanctions qui s’imposent s’il s’agit de menaces violentes ; d’insultes et injures à l’encontre de catégories de personnes et/ou de clichés racistes ou sexistes ; de contenus inappropriés rabaissant une personne et niant son humanité. Et, pour terminer, de contenus suscitant la peur.

En vérité, ce dispositif mis en place par Twitter n’en reste pas moins très insuffisant. D’après une étude commandée par la Commission européenne, Twitter est la plateforme la moins bonne quand il s’agit de lutter contre la haine en ligne. Durant une opération de contrôle réalisée entre le 20 janvier et le 28 février 2020 sur un échantillon de 484 contenus haineux sur quatre plateformes (YouTube, Facebook, Instagram, Twitter), l’organisme sCAN -Specialised Cyber-Activists Network-^[6] a relevé que seuls 58 % d’entre eux avaient été retirés sur la période. Twitter a enregistré les pires résultats : seuls 9 % des tweets problématiques dénoncés par les utilisateurs avaient été supprimés par la plateforme et 5 % avaient été rendus invisibles aux utilisateurs de la zone géographique. YouTube a fait un peu mieux, avec 26 % des contenus retirés^[7].

Une autre étude a été menée cette fois par l’UEJF, SOS Racisme et SOS homophobie du 17 mars au 5 mai 2020. Elle montre une augmentation de 43 % du nombre de contenus haineux postés sur Twitter. De façon plus détaillée, le nombre de contenus racistes y a augmenté de 40,5 %, celui des contenus antisémites de 20 % et celui des contenus LGBTphobes de 48 %. De fait, l’UEJF, SOS Racisme, SOS homophobie et l’association J’accuse… ! ont assigné lundi 11 mai 2020 Twitter devant le tribunal judiciaire de Paris, jugeant qu’il manquait de manière « ancienne et persistante » à ses obligations en matière de modération des contenus^[8].

Les résultats d’une enquête récente confirment les données citées précédemment. Depuis 2019, l’Observatoire de l’antisémitisme en ligne du CRIF en collaboration avec IPSOS, collecte du contenu antisémite sur le Net, grâce à une liste de mots-clefs, sur plus de 600 millions de sources. Parmi les catégories étudiées figurent « la haine des Juifs via la haine d’Israël. » Font notamment l’objet d’une attention particulière, les points suivants : la diffamation et les critiques envers Israël parce que c’est un état Juif ; l’utilisation de symboles et images associés à l’antisémitisme classique pour caractériser Israël ou le sionisme ; les allégations disant que l’Etat d’Israël est comparable au nazisme ; les comparaisons entre la politique actuelle d’Israël avec celle les nazis. Quelles en sont les conclusions ? 51.816 contenus antisémites ont été comptabilisés en 2019 (63 % sur Twitter, 17 % sur Facebook, 3 % sur le Réseau International.net, 2 % sur Youtube), avec une forte progression de la haine à l’égard d’Israël, sur la première moitié de l’année 2019, 79 %. Pour l’année, cette catégorie constitue 39 % des propos antisémites sur le Net^[9].

Conclusion provisoire

Il résulte de cette courte étude, les conclusions suivantes. 

Twitter doit obéir aux lois du marché qui considèrent que la plateforme ne ramène pas assez d’argent. De fait, Twitter n’a pas d’autre alternative que de laisser la croissance de ses utilisateurs se développer vite, rapidement et sans entraves. Quid de la modération alors ? Nous ignorons comment la modération est effectuée sur Twitter et les questions suivantes se posent toujours : combien de modérateurs travaillent effectivement pour Twitter, pour un effectif total de combien de salariés dans cette entreprise ? Où sont-ils installés géographiquement ? Quelle formation ont-ils ? Quelle connaissance exacte ont-ils de nos lois, de notre histoire, du contexte socio-politique ? Comment travaillent-ils ? Sur la supervision de qui ? Nous affirmons par là-même que la seule solution pour pallier des différentes déficiences constatées, résulterait d’une amélioration très significative des services et d’une augmentation significative du nombre de modérateurs, ainsi que d’une politique significative de traitement de la haine en ligne. En l’état, nous remarquons simplement que Twitter manque d’éthique et de volonté politique pour ce faire. 

---

Marc Knobel est historien. Il publie chez Hermann en 2021 « Cyberhaine. Propagande, antisémitisme sur Internet. »

---

^[1] Romain Herreros, « Miss Provence cible d’injures antisémites, indignation dans la classe politique », Huffpost, 20 décembre 2020.

^[2] Le 24 janvier 2013, le TGI de Paris demande à Twitter de communiquer aux autorités compétentes les données permettant d’identifier les auteurs des tweets antisémites. Par ailleurs, le TGI ordonne de mettre en place dans le cadre de la plateforme française de ce service un dispositif accessible et visible permettant à toute personne de porter à sa connaissance des contenus illicites tombant sous le coup de l’apologie des crimes contre l’Humanité et de l’incitation à la haine raciale. Le 12 juillet 2013, Twitter indique avoir fourni à la justice française les données susceptibles de permettre l’identification de certains auteurs de tweets antisémites.

^[3] Voir à ce sujet, Marc Knobel, « Twitter, l’amour, la haine… », Huffington Post, 5 avril 2016.

^[4] La conduite haineuse est définie de la manière suivante : « Il est interdit de menacer d’autres personnes, de les harceler ou d’inciter à la violence envers elles sur la base des critères suivants : race, origine ethnique, nationalité, orientation sexuelle, sexe, identité sexuelle, appartenance religieuse, âge, handicap ou maladie grave. Nous n’autorisons aucun compte à adopter un comportement inapproprié envers d’autres personnes ou à les menacer en utilisant ses informations de profil, notamment son nom d’utilisateur, son nom d’affichage ou sa biographie. Si les informations de profil d’un compte comportant une menace violente ou plusieurs insultes, qualificatifs et clichés racistes ou sexistes, si elles incitent à la peur, ou si elles nient l’humanité d’une personne, ce compte sera définitivement suspendu. »

^[5] En juillet 2020 et en pleine épidémie de Coronavirus, Twitter prévient que l’urgence de santé publique sans précédent à laquelle ils sont confrontées a eu un impact sur la disponibilité de leur équipe d’assistance. « Nous traitons en priorité des infractions potentielles susceptibles d’être nuisibles, et nous travaillons pour faciliter la tâche des personnes qui les signalent. »

^[6] sCAN vise à rassembler l’expertise, les outils, la méthodologie et les connaissances sur la cyberhaine et développer des pratiques transnationales globales pour identifier, analyser, signaler et combattre les discours de haine en ligne.

^[7] Guillaume Guichard, « Twitter, le plus mauvais élève de lutte contre la haine en ligne », Le Figaro, 3 juillet 2020.

^[8] https://uejf.org/2020/05/12/luejf-assigne-twitter-en-justice-pour-son-inaction-face-a-la-haine-en-ligne/

^[9] Voir à ce sujet Marc Knobel, « La détestation d’Israël sur le Net », La Revue des Deux Mondes, octobre 2020, pp. 58-62.