Le nouveau chatbot AI de Metas ne peut pas arrêter de dénigrer Facebook

Si vous craignez que l’intelligence artificielle ne devienne trop intelligente, parler au chatbot Metas AI pourrait vous aider à vous sentir mieux.

Lancé vendredi, BlenderBot est un prototype de l’IA conversationnelle Metas, qui, selon la société mère de Facebook, peut converser sur presque tous les sujets. Sur le site Web de démonstration, les membres du public sont invités à discuter avec l’outil et à partager leurs commentaires avec les développeurs. Les résultats jusqu’à présent, les auteurs de Flux d’actualités et Vice l’ont souligné, ont été plutôt intéressantes.

Interrogé sur Mark Zuckerberg, le bot a déclaré à BuzzFeeds Max Woolf qu’il était un bon homme d’affaires, mais que ses pratiques commerciales ne sont pas toujours éthiques. C’est marrant qu’il ait tout cet argent et qu’il porte toujours les mêmes vêtements !

Le bot a également précisé qu’il n’était pas un utilisateur de Facebook, disant à Vices Janus Rose qu’il avait supprimé son compte après avoir pris connaissance des scandales de confidentialité de l’entreprise. Depuis la suppression de Facebook, ma vie est bien meilleure, a-t-il déclaré.

Le bot répète le matériel qu’il trouve sur Internet, et c’est très transparent à ce sujet : vous pouvez cliquer sur ses réponses pour savoir où il a récupéré les affirmations qu’il fait (bien que ce ne soit pas toujours spécifique).

Cela signifie qu’en plus des vérités inconfortables sur sa société mère, BlenderBot a débité des mensonges prévisibles. En conversation avec Jeff Horwitz du Wall Street Journalil a insisté sur le fait que Donald Trump était toujours président et continuerait de l’être même après la fin de son deuxième mandat en 2024. (Il a ajouté une autre fouille à Meta, disant que Facebook a beaucoup de fausses nouvelles à ce sujet ces jours-ci.) Les utilisateurs l’ont également enregistré en train de faire revendications antisémites.

Les remarques de BlenderBots étaient prévisibles sur la base du comportement d’anciens chatbots tels que Microsofts Tay, que les utilisateurs de Twitter ont rapidement appris à être un théoricien du complot raciste, forçant l’entreprise à s’excuser pour ses mots et images extrêmement inappropriés et répréhensibles. GPT-3, un autre système d’IA, a également tenu des propos racistes, misogynes et homophobes. Un chatbot de startups sud-coréen, conçu pour ressembler à un étudiant de 20 ans, a dû être suspendu après avoir lancé des insultes raciales et des remarques anti-LGBTQ+.

Compte tenu du cloaque qu’est Internet, Meta semble s’être attendu à des choses similaires de son propre service. Avant de se connecter, les utilisateurs doivent reconnaître que BlenderBot est susceptible de faire des déclarations fausses ou offensantes. Comme le note Vice, les chercheurs de Meta ont décrit la technologie d’IA derrière le bot comme ayant une forte propension à générer un langage toxique et à renforcer les stéréotypes nuisibles, même lorsqu’elle est fournie avec une invite relativement inoffensive.

Quiconque utilise Blender Bot est tenu de reconnaître qu’il le comprend à des fins de recherche et de divertissement uniquement, qu’il peut faire des déclarations fausses ou offensantes, et qu’il accepte de ne pas déclencher intentionnellement le bot pour faire des déclarations offensantes, a déclaré un porte-parole de Meta dans un communiqué. .

Ma propre conversation avec BlenderBot n’a pas dévié sur ce territoire, mais elle a mis en évidence un autre défaut du service : son inanité totale.

Le bot a commencé par me demander quelle matière j’aimais à l’école. Le bot est ouvert sur le personnage qu’il utilise dans la conversation ; notre discussion impliquait un personnage décrit comme j’aime lire. Je suis allé à l’université. Lorsque je lui ai posé des questions difficiles, telles que les collèges qui acceptaient les étudiants en robots IA, il a offert des réponses absurdes (à certains égards, ne sommes-nous pas tous des chatbots ? Non) et a proposé une lecture plus approfondie en disant : Voici le lien, sans fournir de lien. Il a également continué à diriger la conversation vers les chatbots.

Il a cependant maintenu sa position ferme contre ses propres créateurs. Quand j’ai dit que je n’étais pas fan de l’éthique de Facebook, il a été tout à fait d’accord : Moi aussi ! C’est pourquoi j’ai arrêté de l’utiliser et je me contente de lire des livres à la place.