L’intelligence artificielle repérée en train d’inventer son propre langage effrayant
Un programme d’intelligence artificielle a développé son propre langage et personne ne peut le comprendre.
OpenAI est un développeur de systèmes d’intelligence artificielle – leurs programmes sont des exemples fantastiques de super-informatique, mais il y a des bizarreries.
DALLE-E2 est le dernier système d’IA d’OpenAI – il peut générer des images réalistes ou artistiques à partir de descriptions textuelles saisies par l’utilisateur.
DALLE-E2 représente une étape importante dans l’apprentissage automatique – le site d’OpenAI indique que le programme « a appris la relation entre les images et le texte utilisé pour les décrire ».
Une démonstration DALLE-E2 comprend des mots-clés interactifs permettant aux utilisateurs de jouer avec et de générer des images – le fait de basculer entre différents mots-clés se traduira par des images, des styles et des sujets différents.
Mais le système a un comportement étrange : il écrit son propre langage d’arrangements aléatoires de lettres, et les chercheurs ne savent pas pourquoi.
Giannis Daras, docteur en informatique. étudiant à l’Université du Texas, a publié un Fil Twitter détaillant le nouveau langage inexpliqué de DALLE-E2.
Daras a dit à DALLE-E2 de créer une image de « paysans parlant de légumes » et le programme l’a fait, mais le discours des paysans disait « vicotes » – un mot inconnu de l’IA.
Daras nourris « vicottes » dans le système DALLE-E2 et récupéré des images de légumes.
« Nous alimentons ensuite les mots: » Apoploe vesrreaitars « et nous obtenons des oiseaux. » Daras a écrit sur Twitter.
« Il semble que les agriculteurs parlent d’oiseaux, de jouer avec leurs légumes ! »
Daras et un co-auteur ont rédigé un article sur le « vocabulaire caché » de DALLE-E2.
Ils reconnaissent que dire à DALLE-E2 de générer des images de mots – la commande « une image du mot avion » est l’exemple de Daras – conduit normalement DALLE-E2 à cracher un « texte charabia ».
Lorsqu’il est rebranché dans DALLE-E2, ce texte charabia se traduira par des images d’avions – ce qui en dit long sur la façon dont DALLE-E2 se parle et se pense.
Certains chercheurs en IA ont fait valoir que le texte charabia de DALLE-E2 est un « bruit aléatoire ».
Espérons que nous ne découvrions pas que la deuxième langue du DALLE-E2 était une faille de sécurité qui devait être corrigée après qu’il soit trop tard.
Cet article est initialement paru sur Le soleil et a été reproduit ici avec permission.