Un pionnier de l’informatique critique la technologie ChatGPT AI pour avoir inventé les choses
Vint Cerf, un père fondateur d’Internet, a des mots durs pour la technologie soudainement en vogue derrière le chatbot ChatGPT AI : « L’huile de serpent ».
L’évangéliste Internet de Google n’était pas complètement déçu de la technologie d’intelligence artificielle derrière ChatGPT et du concurrent Bard de Google, appelé un grand modèle de langage. Mais, s’exprimant lundi au sommet TechSurge de Celesta Capital, il a mis en garde contre les problèmes éthiques d’une technologie qui peut générer des informations plausibles mais incorrectes, même lorsqu’elles sont formées sur la base de données factuelles.
Si un dirigeant essayait de lui faire appliquer ChatGPT à un problème commercial, sa réponse serait de l’appeler huile de serpent, faisant référence à de faux médicaments vendus par des charlatans dans les années 1800, a-t-il déclaré. Une autre métaphore ChatGPT impliquait des appareils de cuisine.
« C’est comme un shooter à salade – vous savez comment la laitue va partout », a déclaré Cerf. « Les faits sont partout partout, et il les mélange parce qu’il ne sait pas mieux. »
ChatGPT d’OpenAI et des concurrents comme Google’s Bard ont le potentiel de transformer considérablement nos vies en ligne en répondant à des questions, en rédigeant des e-mails, en résumant des présentations et en effectuant de nombreuses autres tâches. Microsoft a commencé à intégrer la technologie linguistique d’OpenAI dans son moteur de recherche Bing dans un défi important pour Google, mais il utilise son propre index du Web pour essayer de « fonder » les envolées d’OpenAI avec des documents faisant autorité et dignes de confiance.
L’inquiétude de Cerf est arrivée juste au moment où les personnes mettant Bing à l’épreuve ont découvert des erreurs factuelles qui ne correspondaient pas aux documents sources et comportement de chat bizarre lors de conversations prolongées. Microsoft s’est engagé à améliorer les performances.
En 2004, Cerf a partagé le prix Turing, le premier prix en informatique, pour avoir aidé à développer la fondation Internet appelée TCP/IP, qui transfère les données d’un ordinateur à un autre en les divisant en petits paquets adressés individuellement qui peuvent emprunter différentes routes d’un ordinateur à l’autre. source à destination. Ce n’est pas un chercheur en IA, mais c’est un ingénieur en informatique qui aimerait voir ses collègues améliorer les lacunes de l’IA.
Cerf s’est dit surpris d’apprendre que ChatGPT pouvait fabriquer de fausses informations à partir d’une base factuelle. « Je lui ai demandé, ‘Écrivez-moi une biographie de Vint Cerf.’ Il s’est trompé sur un tas de choses », a déclaré Cerf. C’est à ce moment-là qu’il a appris le fonctionnement interne de la technologie – qu’elle utilise des modèles statistiques repérés à partir d’énormes quantités de données de formation pour construire sa réponse.
« Il sait comment enchaîner une phrase qui est grammaticalement susceptible d’être correcte », mais il n’a aucune véritable connaissance de ce qu’il dit, a déclaré Cerf. « Nous sommes loin de la conscience de soi que nous voulons. »
OpenAI, qui a lancé plus tôt en février un plan de 20 $ par mois pour utiliser ChatGPT, a été clair sur les lacunes de la technologie, mais vise à l’améliorer par une « itération continue ».
« ChatGPT écrit parfois des réponses plausibles mais incorrectes ou absurdes. Résoudre ce problème est un défi », a déclaré le laboratoire de recherche sur l’intelligence artificielle lors du lancement de ChatGPT en novembre.
Cerf espère aussi des progrès. « Les ingénieurs comme moi devraient être responsables d’essayer de trouver un moyen d’apprivoiser certaines de ces technologies afin qu’elles soient moins susceptibles de causer des problèmes », a-t-il déclaré.
Les commentaires de Cerf contrastaient avec ceux d’un autre lauréat du prix Turing lors de la conférence, pionnier de la conception de puces et ancien président de Stanford, John Hennessy, qui a offert une évaluation plus optimiste de l’IA.
Note des éditeurs : CNET utilise un moteur d’IA pour créer des explications sur les finances personnelles qui sont éditées et vérifiées par nos éditeurs. Pour en savoir plus, consultez cet article.