Twitch utilisera l’apprentissage automatique pour détecter les personnes qui échappent aux interdictions
Twitch poursuit ses efforts pour réduire le harcèlement avec un nouvel outil qui utilise l’apprentissage automatique pour détecter les personnes qui pourraient tenter de se soustraire aux interdictions. C’est le dernier ajout de l’entreprise pour lutter contre des choses comme les raids haineux, où les discussions de streamers sont envahies par des trolls envoyant des messages haineux.
Le nouvel outil, appelé Suspicious User Detection, peut identifier les utilisateurs comme des personnes probables ou possibles qui ont échappé aux interdictions d’une chaîne de streamers. Le modèle d’apprentissage automatique qui alimente l’outil identifie les fraudeurs potentiels en évaluant des éléments tels que leur comportement et les caractéristiques de leur compte et compare ces informations aux comptes qui ont été bannis d’un canal de streamers.
Les messages des fraudeurs probables ne seront pas envoyés au chat, mais les streamers et leurs mods peuvent les voir. Les streamers et les mods peuvent choisir de surveiller un fraudeur probable, ce qui ajoute cet utilisateur à une liste de surveillance et place un message à côté d’un nom d’utilisateur notant la surveillance (comme indiqué dans le GIF ci-dessous), ou les bannit. Messages d’évadés possibles sera apparaissent dans le chat, mais les streamers / mods peuvent également choisir de bloquer ces messages du chat.
Twitch dit qu’il activera la détection des utilisateurs suspects par défaut, mais les streamers peuvent modifier ou désactiver l’outil s’ils le souhaitent. Les streamers et les mods peuvent également sélectionner manuellement pour surveiller les utilisateurs dont ils se méfient.
Cet outil a été inspiré en grande partie par les commentaires de la communauté sur la nécessité de trouver de meilleurs moyens de lutter contre les fraudeurs, a déclaré Alison Huffman, directrice des produits pour la santé communautaire chez Twitch, dans un communiqué. Le bord. Lorsque nous parlions avec les mods de leurs points faibles, nous avons entendu qu’il peut être difficile de distinguer si un utilisateur qui a discuté de quelque chose qui enfreint les normes de sa chaîne était un harceleur dangereux et répétitif ou simplement un nouveau spectateur qui n’avait pas encore appris cette coutume de la chaîne. En tant que tel, nous avons conçu cet outil pour donner aux mods et aux créateurs plus d’informations sur les fraudeurs potentiels afin qu’ils puissent prendre des décisions plus efficaces et plus éclairées au sein de leur chaîne.
La détection des utilisateurs suspects semble pouvoir faire la différence pour faire taire les individus haineux, en particulier si elle est utilisée en tandem avec des contrôles récemment introduits qui permettent à un streamer d’exiger une vérification par téléphone ou par e-mail pour les comptes participant au chat. Mais il reste à voir dans quelle mesure la détection des utilisateurs suspects sera efficace dans la pratique ou si les fraudeurs peuvent trouver des moyens de contourner l’outil.