Meta a un nouvel outil d’IA pour lutter contre la désinformation et utilise Wikipédia pour s’entraîner

Facebook dit qu’il veut aider à corriger la désinformation qui sévit sur Internet, un problème qu’il a peut-être contribué à créer en premier lieu.

Le parent de Facebook, Meta, a annoncé lundi un nouvel outil alimenté par l’IA, appelé Sphere. Il est destiné à aider à détecter et à traiter la désinformation, ou « fausses nouvelles », sur Internet. Meta prétend que c’est « le premier [AI] modèle capable de scanner automatiquement des centaines de milliers de citations à la fois pour vérifier si elles soutiennent vraiment les affirmations correspondantes. »

L’annonce intervient après des années de critiques sur le propre rôle de Facebook en permettant à la désinformation en ligne de prospérer et de se propager rapidement à travers le monde. L’ensemble de données de Sphere comprend 134 millions de pages Web publiques, selon l’équipe de recherche de Meta. Il s’appuie sur cette connaissance collective d’Internet pour analyser rapidement des centaines de milliers de citations Web, à la recherche d’erreurs factuelles.

Il est donc peut-être approprié que Meta entraîne le modèle d’IA à l’aide d’entrées sur Wikipedia. Selon l’annonce de Meta, Sphere analyse déjà les pages de l’encyclopédie Internet participative pour tester sa capacité à signaler les sources qui ne prennent pas réellement en charge les affirmations de l’entrée.

Meta indique également que lorsque Sphere repère une source douteuse, il peut en recommander une plus forte ou une correction pour aider à améliorer la précision de l’entrée.

« Wikipedia est le premier arrêt par défaut dans la recherche d’informations de recherche, de documents de base ou d’une réponse à cette question lancinante sur la culture pop », Meta a déclaré dans un communiqué, notant que Wikipédia héberge plus de 6,5 millions d’entrées dans la seule langue anglaise et ajoute environ 17 000 nouvelles entrées à ses pages chaque mois.

La société a également publié une vidéo montrant le fonctionnement de Sphere :

Un porte-parole de Wikipédia a déclaré à CNBC Make It que l’encyclopédie Internet ne s’associait pas officiellement à Meta pour le développement de Sphere et qu’aucune des entrées de Wikipédia n’était automatiquement mise à jour. Meta a également déclaré à TechCrunch plus tôt ce mois-ci qu’il n’y avait aucune compensation financière dans les deux sens.

Les systèmes automatisés existants étaient déjà capables d’identifier les éléments d’information qui manquaient de citation. Mais les chercheurs de Meta affirment que la complexité de distinguer les revendications individuelles avec des sources douteuses et de déterminer si ces sources soutiennent réellement les revendications en question « nécessite la profondeur de compréhension et d’analyse d’un système d’IA ».

Dans un communiqué, Shani Evenstein Sigalov, chercheur à l’Université de Tel Aviv et vice-président du conseil d’administration de la Wikimedia Foundation, a qualifié la formation de Sphere avec Wikipedia « d’exemple puissant d’outils d’apprentissage automatique qui peuvent aider à faire évoluer le travail des bénévoles ».

« L’amélioration de ces processus nous permettra d’attirer de nouveaux éditeurs sur Wikipédia et de fournir des informations meilleures et plus fiables à des milliards de personnes dans le monde », a déclaré Sigalov.

Sphere marque le dernier effort de Meta pour lutter contre la désinformation en ligne tout en détournant potentiellement les critiques sur le rôle de l’entreprise en permettant à cette désinformation de persister.

Meta a fait l’objet de critiques constamment sévères au cours des dernières années de la part des utilisateurs et des régulateurs concernant la diffusion de fausses informations sur les plateformes de médias sociaux de l’entreprise, notamment Facebook, Instagram et WhatsApp. D’anciens employés et des documents internes divulgués ont alimenté les affirmations selon lesquelles l’entreprise a privilégié les bénéfices à la lutte contre la désinformation, et le PDG de Meta, Mark Zuckerberg, a été appelé devant le Congrès pour discuter du problème.

L’été dernier, le président Joe Biden a accusé le géant des médias sociaux de « tuer des gens » en permettant à la désinformation sur le vaccin Covid-19 de se propager sur ses plateformes. La société a repoussé, affirmant que Facebook et Instagram fournissaient « des informations faisant autorité sur le COVID-19 et les vaccins » à des milliards d’utilisateurs.

Correction : Cette histoire a été corrigée pour refléter que Meta utilise actuellement Wikipedia comme outil de formation pour Sphere.

S’inscrire maintenant: Soyez plus intelligent sur votre argent et votre carrière avec notre newsletter hebdomadaire

Ne manquez pas :

Le racisme pourrait ruiner le métaverse si la technologie n’améliore pas la diversité maintenant, prévient le CTO: « C’est absolument un problème »

Bill Gates dit que le métaverse accueillera la plupart de vos réunions de bureau d’ici « deux ou trois ans »