Extrémisme en ligne : des informations plus complètes sont nécessaires sur les crimes haineux commis sur Internet

Ce que le GAO a trouvé

Le ministère de la Justice (DOJ) collecte des données sur les crimes haineux (c’est-à-dire les crimes qui manifestent des preuves de préjugés fondés sur la race, l’origine ethnique, le sexe, l’identité de genre, la religion, le handicap ou l’orientation sexuelle) à l’aide de deux programmes statistiques :

• Le programme de signalement uniforme des crimes du Federal Bureau of Investigation (FBI) collecte des données sur les crimes haineux, y compris les crimes haineux commis sur Internet, auprès des forces de l’ordre.
• Le Bureau of Justice Statistics (BJS) utilise une enquête nationale annuelle auprès des ménages, la National Crime Victimisation Survey, pour produire des estimations de la prévalence des crimes haineux signalés et non signalés aux forces de l’ordre. L’enquête du BJS ne collecte pas de données sur les crimes haineux commis sur Internet.

La loi de 2022 sur l’amélioration des mesures de la cybercriminalité exige que le BJS inclue des questions relatives à la victimisation par la cybercriminalité dans son enquête. Le BJS a financé une étude qui a examiné une méthode permettant de mesurer la victimisation motivée par des préjugés sur Internet. Cependant, l’étude n’a pas exploré d’autres méthodes, comme une approche similaire à la façon dont l’enquête mesure les crimes haineux en personne. Explorer d’autres options pour mesurer la victimisation criminelle liée aux préjugés sur Internet dans le cadre de l’Enquête nationale sur la victimisation de la criminalité ou d’une enquête supplémentaire compléterait les données du FBI et aiderait le DOJ à identifier et à fournir une assistance aux communautés touchées par la haine.

Le GAO a constaté que les six entreprises sélectionnées ont pris des mesures pour supprimer les contenus que leurs politiques définissaient comme des discours de haine ou comme faisant la promotion d’un extrémisme violent contre des personnes sur la base de caractéristiques réelles ou perçues, telles que la race ou la religion. Les données des entreprises montrent que la quantité de contenu haineux supprimé variait selon les plateformes qu’elles exploitaient de 2018 à 2022. Cela est dû en partie à la variation des définitions des contenus haineux par les entreprises et de leurs politiques associées.

Des discours de haine circulent sur Internet

Les recherches indiquent que jusqu’à un tiers des internautes ont déclaré avoir été victimes de discours de haine sur Internet, et les utilisateurs qui publient des propos haineux ou extrémistes sur Internet peuvent le faire parce qu’Internet contribue à propager des idéologies haineuses. En outre, des recherches et des rapports gouvernementaux indiquent un lien entre les discours de haine sur Internet et les crimes haineux. Par exemple, une étude évaluée par des pairs a révélé un lien entre les commentaires incivils sur Internet et les crimes haineux contre les Asiatiques dans certaines villes américaines. En outre, le Département de la Sécurité intérieure et le FBI ont signalé qu’Internet créait des opportunités permettant aux individus de s’autoradicaliser et de mener des attaques contre des délinquants isolés sans le soutien d’une organisation extrémiste violente plus importante.

Pourquoi le GAO a réalisé cette étude

Un crime de haine se produit presque toutes les heures aux États-Unis, selon les données communiquées au FBI. Les enquêtes sur les crimes haineux récents suggèrent que l’exposition à des discours de haine sur Internet pourrait avoir contribué aux préjugés des agresseurs à l’égard de leurs victimes. En 2021, le FBI a placé les crimes haineux au même niveau de menace nationale que la prévention de l’extrémisme violent national.

Le GAO a été invité à examiner les informations sur les crimes haineux et les discours haineux sur Internet. Ce rapport examine (1) dans quelle mesure le DOJ collecte des données sur les crimes haineux commis sur Internet, (2) ce que les données des entreprises indiquent sur les mesures prises par les entreprises sélectionnées pour supprimer les discours de haine et les discours extrémistes violents de leurs plateformes Internet, et ( 3) ce que l’on sait de l’expérience des utilisateurs en matière de discours de haine sur Internet ou de leur expression, et de sa relation avec les crimes de haine et l’extrémisme violent domestique.

Le GAO a analysé les données américaines sur les crimes haineux et interrogé des responsables du DOJ. Le GAO a analysé les données et interrogé des responsables de six sociétés sélectionnées exploitant des plateformes Internet dont les politiques accessibles au public interdisent les discours de haine et les discours extrémistes violents. Le GAO a évalué des études évaluées par des pairs et à but non lucratif qui décrivaient les discours de haine sur Internet, les crimes haineux et les incidents extrémistes violents au sein du pays.