Le père d’Internet met en garde : ne précipitez pas les investissements dans l’IA simplement parce que ChatGPT est « vraiment cool »

L’évangéliste en chef de Google et père d’Internet, Vint Cerf, a un message pour les cadres qui cherchent à précipiter les affaires sur l’intelligence artificielle du chat : « Ne le faites pas. »

Cerf a supplié les participants à une conférence de Mountain View, en Californie, lundi de ne pas se précipiter pour investir dans l’IA conversationnelle simplement parce que « c’est un sujet brûlant ». L’avertissement survient au milieu d’une explosion de popularité pour ChatGPT.

« Il y a ici une question éthique que j’espère que certains d’entre vous considéreront », a déclaré Cerf à la foule de la conférence lundi. « Tout le monde parle de ChatGPT ou de la version de Google et nous savons que cela ne fonctionne pas toujours comme nous le souhaiterions », a-t-il déclaré, faisant référence à l’IA conversationnelle Bard de Google annoncée la semaine dernière.

Son avertissement intervient alors que de grandes entreprises technologiques telles que Google, Meta et Microsoft se demandent comment rester compétitives dans l’espace de l’IA conversationnelle tout en améliorant rapidement une technologie qui fait encore souvent des erreurs.

Le président d’Alphabet, John Hennessy, a déclaré plus tôt dans la journée que les systèmes sont encore loin d’être largement utiles et qu’ils ont de nombreux problèmes d’inexactitude et de « toxicité » qui doivent encore être résolus avant même de tester le produit sur le public.

Cerf est vice-président et « évangéliste en chef d’Internet » pour Google depuis 2005. Il est connu comme l’un des pères d’Internet car il a co-conçu une partie de l’architecture utilisée pour construire les fondations d’Internet.

Cerf a mis en garde contre la tentation d’investir simplement parce que la technologie est vraiment cool, même si elle ne fonctionne pas très bien tout le temps. »

« Si vous pensez, mec, je peux vendre ça aux investisseurs parce que c’est un sujet brûlant et que tout le monde me jettera de l’argent », ne faites pas ça, a déclaré Cerf, ce qui a fait rire la foule. Soyez réfléchi. Vous aviez raison de dire que nous Je ne peux pas toujours prédire ce qui va se passer avec ces technologies et, pour être honnête avec vous, la plupart du problème, ce sont les gens, c’est pourquoi nous n’avons pas changé au cours des 400 dernières années, sans parler des 4 000 dernières.

Ils chercheront à faire ce qui est leur avantage et non le vôtre », a poursuivi Cerf, semblant faire référence à la cupidité humaine générale. « Nous devons donc nous en souvenir et réfléchir à la manière dont nous utilisons ces technologies.

Cerf a déclaré avoir essayé de demander à l’un des systèmes d’attacher un emoji à la fin de chaque phrase. Il ne l’a pas fait, et quand il a dit au système qu’il l’avait remarqué, il s’est excusé mais n’a pas changé son comportement. Nous sommes loin de la conscience ou de la conscience de soi », a-t-il déclaré à propos des chatbots.

Il y a un écart entre ce que la technologie dit qu’elle fera et ce qu’elle fait, a-t-il dit. C’est le problème. Vous ne pouvez pas faire la différence entre une réponse exprimée avec éloquence et une réponse exacte.

Cerf a donné un exemple lorsqu’il a demandé à un chatbot de fournir une biographie sur lui-même. Il a déclaré que le bot avait présenté sa réponse comme factuelle même si elle contenait des inexactitudes.

Du côté de l’ingénierie, je pense que les ingénieurs comme moi devraient être responsables d’essayer de trouver un moyen d’apprivoiser certaines de ces technologies afin qu’elles soient moins susceptibles de causer des dommages », a-t-il déclaré. « Et, bien sûr, selon l’application, une histoire de fiction pas très bonne est une chose. Donner des conseils à quelqu’un peut avoir des conséquences médicales. Il est très important de déterminer comment minimiser le potentiel du pire des cas. »