Les idées racistes et violentes passent des marges Web aux sites grand public
Le 30 mars, le jeune homme accusé de la fusillade de masse dans une épicerie Tops à Buffalo a surfé sur un assortiment de sites Web racistes et antisémites en ligne. Sur BitChute, un site de partage de vidéos connu pour héberger l’extrémisme de droite, il a écouté une conférence sur le déclin de la classe moyenne américaine donnée par un extrémiste finlandais. Sur YouTube, il a trouvé une vidéo sinistre d’une voiture roulant dans les quartiers noirs de Detroit.
Au cours de la semaine qui a suivi, ses émissions d’écriture en ligne, il s’est attardé dans des salons de discussion furtifs sur Reddit et 4chan mais a également lu des articles sur la race dans HuffPost et Medium. Il a regardé des reportages télévisés locaux sur des crimes horribles. Il a basculé entre des documentaires sur des sites Web extrémistes et des tutoriels sur les armes à feu sur YouTube.
Le jeune homme, qui a été inculpé par un grand jury la semaine dernière, a été dépeint par les autorités et certains médias comme un paria troublé qui a agi seul lorsqu’il a tué 10 Noirs dans l’épicerie et en a blessé trois autres. En fait, il habitait dans de nombreuses communautés en ligne où lui et d’autres consommaient et partageaient du contenu raciste et violent.
Alors que le nombre de fusillades de masse augmente, les experts disent que bon nombre des idées dérangeantes qui alimentent les atrocités ne sont plus reléguées à une poignée de coins sombres difficiles à trouver sur le Web. De plus en plus de points de vente, à la fois marginaux et grand public, hébergent du contenu sectaire, souvent au nom de la liberté d’expression. Et l’incapacité ou la réticence des services en ligne à contenir des contenus violents menace d’attirer davantage de personnes vers des publications haineuses.
De nombreuses images et textes que le jeune homme avait dans ses nombreux écrits, qui comprenaient un journal intime et un manifeste de 180 pages, ont circulé pendant des années en ligne. Souvent, ils ont infiltré certains des sites les plus populaires au monde, comme Reddit et Twitter. Son cheminement vers la radicalisation, illustré dans ces documents, révèle les limites des efforts déployés par des entreprises comme Twitter et Google pour modérer les publications, images et vidéos faisant la promotion de l’extrémisme et de la violence. Il reste suffisamment de contenu pour ouvrir un pipeline permettant aux utilisateurs de trouver des sites Web plus extrêmes en un clic ou deux.
C’est assez prolifique sur Internet, a déclaré Eric K. Ward, chercheur principal au Southern Poverty Law Center qui est également directeur exécutif du Western States Center, un organisme de recherche à but non lucratif. Il ne va pas seulement tomber sur vos genoux ; vous devez commencer à le chercher. Mais une fois que vous commencez à le chercher, le problème est qu’il commence à pleuvoir sur une personne en abondance.
L’attaque de Buffalo a renouvelé l’attention sur le rôle que les médias sociaux et d’autres sites Web continuent de jouer dans les actes d’extrémisme violent, avec des critiques provenant du public ainsi que des responsables gouvernementaux.
Le fait que cet acte de barbarie, cette exécution d’êtres humains innocents, puisse être diffusé en direct sur les plateformes de médias sociaux et ne pas être supprimé en une seconde me dit qu’il y a une responsabilité là-bas, a déclaré la gouverneure Kathy Hochul de New York après le tournage à Buffalo. Quatre jours plus tard, la procureure générale de l’État, Letitia James, a annoncé qu’elle avait ouvert une enquête sur le rôle joué par les plateformes.
Facebook a souligné ses règles et politiques qui interdisent les contenus haineux. Dans un communiqué, une porte-parole a déclaré que la plate-forme détecte plus de 96% du contenu lié aux organisations haineuses avant qu’il ne soit signalé. Twitter a refusé de commenter. Certaines des publications sur les réseaux sociaux sur Facebook, Twitter et Reddit que le New York Times a identifiées grâce à des recherches d’images inversées ont été supprimées ; certains des comptes qui partageaient les images ont été suspendus.
L’homme accusé des meurtres, Payton Gendron, 18 ans, a détaillé son attaque contre Discord, une application de chat qui a émergé du monde du jeu vidéo en 2015, et l’a diffusée en direct sur Twitch, qui appartient à Amazon. La société a réussi à supprimer sa vidéo en deux minutes, mais de nombreuses sources de désinformation qu’il a citées restent en ligne encore aujourd’hui.
Sa trace écrite donne un aperçu effrayant de la façon dont il a préparé un assaut meurtrier en ligne, en recueillant des conseils sur les armes et les tactiques et en trouvant l’inspiration dans d’autres racistes et des attaques précédentes qu’il a largement imité avec les siennes. Dans l’ensemble, le contenu formait une vision tordue et raciste de la réalité. Le tireur considérait les idées comme une alternative aux opinions dominantes.
Comment peut-on empêcher un tireur comme moi, demandez-vous ? il a écrit sur Discord en avril, plus d’un mois avant le tournage. Le seul moyen est de les empêcher d’apprendre la vérité.
Ses écrits cartographient en détail les sites internet qui l’ont motivé. Une grande partie des informations qu’il a rassemblées dans ses écrits impliquaient des liens ou des images qu’il avait choisis pour correspondre à ses opinions racistes, reflétant le type de vie en ligne qu’il vivait.
De son propre chef, la radicalisation du jeune homme a commencé peu de temps après le début de la pandémie de Covid-19, alors qu’il était en grande partie confiné à son domicile comme des millions d’autres Américains. Il a décrit avoir obtenu ses nouvelles principalement de Reddit avant de rejoindre 4chan, le babillard électronique en ligne. Il a suivi des sujets sur les armes à feu et le plein air avant d’en trouver un autre consacré à la politique, s’installant finalement dans un endroit qui permettait un mélange toxique de désinformation raciste et extrémiste.
Bien qu’il ait fréquenté des sites comme 4chan connus pour être en marge, il a également passé beaucoup de temps sur des sites grand public, selon ses propres archives, en particulier YouTube, où il a trouvé des scènes graphiques de caméras de police et des vidéos décrivant des trucs et astuces sur les armes à feu. Alors que le jour de l’attaque approchait, le tireur a regardé plus de vidéos YouTube sur les fusillades de masse et les policiers engagés dans des fusillades.
YouTube a déclaré avoir examiné toutes les vidéos apparues dans le journal. Trois vidéos ont été supprimées parce qu’elles renvoyaient à des sites Web qui enfreignaient la politique de YouTube en matière d’armes à feu, qui interdit le contenu destiné à expliquer aux téléspectateurs comment fabriquer des armes à feu, fabriquer des accessoires qui convertissent une arme à feu en tir automatique ou diffuser en direct du contenu montrant quelqu’un manipulant une arme à feu, selon Jack Malon, un porte-parole de YouTube.
Au centre de la fusillade, comme d’autres avant elle, se trouvait une fausse conviction qu’un complot juif international a l’intention de supplanter les électeurs blancs par des immigrants qui prendront progressivement le pouvoir politique en Amérique.
La conspiration, connue sous le nom de théorie du grand remplacement, a des racines qui remontent au moins au canular antisémite russe tsariste appelé Les Protocoles des Sages de Sion, qui prétendait être un complot juif visant à dépasser le christianisme en Europe.
Elle refait surface plus récemment dans les œuvres de deux romanciers français, Jean Raspail et Renaud Camus, qui, à quatre décennies d’intervalle, imaginent des vagues d’immigrés prenant le pouvoir en France. C’est M. Camus, un socialiste devenu populiste d’extrême droite, qui a popularisé le terme le grand remplacement dans un roman du même nom en 2011.
M. Gendron, selon les documents qu’il a affichés, semble n’avoir lu aucun de ceux-ci; au lieu de cela, il a attribué la grande notion de remplacement aux écrits en ligne publiés par le tireur qui a assassiné 51 musulmans dans deux mosquées de Christchurch, en Nouvelle-Zélande, en 2019.
Après cette attaque, le Premier ministre néo-zélandais, Jacinda Ardern, a dirigé un pacte international, appelé l’appel de Christchurch, qui a vu le gouvernement et les grandes entreprises technologiques s’engager à éliminer les contenus terroristes et extrémistes en ligne. Bien que l’accord ne comporte aucune sanction légale, l’administration Trump a refusé de signer, invoquant le principe de la liberté d’expression.
L’expérience en ligne de M. Gendron montre que les écrits et les clips vidéo associés à la fusillade de Christchurch restent disponibles pour inspirer d’autres actes de violence à caractère raciste. Il a fait référence aux deux à plusieurs reprises.
La Ligue anti-diffamation a averti l’année dernière que le grand remplaçant était passé des marges des croyances suprémacistes blanches au courant dominant, soulignant les chants des manifestants lors du rassemblement Unite the Right de 2017 à Charlottesville, en Virginie, qui a éclaté dans la violence et le commentaires de Tucker Carlson sur Fox News.
La plupart d’entre nous ne connaissent pas l’histoire originale, a déclaré M. Ward du Southern Poverty Law Center. Ce que nous connaissons, c’est le récit, et le récit de la théorie du grand remplacement a été légitimé par des élus et des personnalités à tel point que les origines de l’histoire n’ont plus besoin d’être racontées. Les gens commencent à le comprendre comme s’ils pouvaient comprendre la sagesse conventionnelle. Et c’est ça qui fait peur.
Malgré tous les efforts déployés par certaines grandes plateformes de médias sociaux pour modérer le contenu en ligne, les algorithmes qu’elles utilisent souvent pour montrer aux utilisateurs les messages qu’ils liront, regarderont et cliqueront peuvent accélérer la propagation de la désinformation et d’autres contenus préjudiciables.
Media Matters for America, une organisation à but non lucratif à tendance libérale, a déclaré le mois dernier que ses chercheurs avaient trouvé au moins 50 publicités sur Facebook au cours des deux dernières années faisant la promotion d’aspects du grand remplacement et de thèmes connexes. De nombreuses publicités provenaient de candidats à des fonctions politiques, même si la société, désormais connue sous le nom de Meta, a annoncé en 2019 qu’elle interdirait le contenu nationaliste blanc et séparatiste blanc de Facebook et Instagram.
Les chercheurs de l’organisation ont également découvert que 907 messages sur les mêmes thèmes sur des sites de droite ont attiré plus de 1,5 million d’engagements, bien plus que les messages destinés à les démystifier.
Bien que la vidéo de la fusillade de M. Gendrons ait été retirée de Twitch, elle a refait surface sur 4chan, alors même qu’il était encore sur les lieux du crime. La vidéo s’est depuis propagée à d’autres plateformes marginales comme Gab et finalement à des plateformes grand public comme Twitter, Reddit et Facebook.
L’avènement des médias sociaux a permis, en un laps de temps assez court, des idées et des complots néfastes qui mijotaient autrefois dans un isolement relatif pour proliférer dans la société, rassemblant des personnes animées par la haine, a déclaré Angelo Carusone, président de Media Matters for America.
Ils ne sont plus isolés, dit-il. Ils ont été connectés.