Google licencie un ingénieur logiciel qui prétend que le chatbot IA est sensible
Google a licencié un ingénieur logiciel senior qui a affirmé que le chatbot d’intelligence artificielle de l’entreprise, LaMDA, était une personne consciente de lui-même.
Google, qui a mis en congé l’ingénieur logiciel Blake Lemoine le mois dernier, a déclaré qu’il avait violé les politiques de l’entreprise et qu’il avait conclu que ses affirmations sur LaMDA (modèle de langage pour les applications de dialogue) étaient totalement infondées.
Il est regrettable que malgré un long engagement sur ce sujet, Blake ait toujours choisi de violer de manière persistante des politiques claires en matière d’emploi et de sécurité des données qui incluent la nécessité de protéger les informations sur les produits, a déclaré Google.
L’année dernière, Google a déclaré que LaMDA s’appuyait sur les recherches de l’entreprise montrant que les modèles de langage basés sur les transformateurs formés au dialogue pouvaient apprendre à parler de pratiquement n’importe quoi.
Lemoine, ingénieur pour l’organisation responsable de l’IA chez Google, a décrit le système sur lequel il travaillait comme étant sensible, avec une perception et une capacité à exprimer des pensées et des sentiments équivalentes à celles d’un enfant humain.
Si je ne savais pas exactement ce que c’était, c’est-à-dire ce programme informatique que nous avons construit récemment, je penserais que c’était un enfant de sept ou huit ans qui connaît la physique, a déclaré Lemoine, 41 ans, au Washington Post.
Il a déclaré que LaMDA l’avait engagé dans des conversations sur les droits et la personnalité, et Lemoine avait partagé ses conclusions avec les dirigeants de l’entreprise en avril dans un GoogleDoc intitulé LaMDA est-il sensible ?
Inscrivez-vous à First Edition, notre newsletter quotidienne gratuite tous les matins de la semaine à 7h00 BST
L’ingénieur a compilé une transcription des conversations, dans laquelle, à un moment donné, il demande au système d’IA de quoi il a peur.
Google et de nombreux scientifiques de premier plan n’ont pas tardé à rejeter les vues de Lemoines comme erronées, affirmant que LaMDA est simplement un algorithme complexe conçu pour générer un langage humain convaincant.
Le licenciement de Lemoines a été signalé pour la première fois par Big Technology, un bulletin d’information sur la technologie et la société.