Le scientifique en chef d’OpenAI déclare que l’IA avancée est peut-être déjà consciente

« Il se peut que les grands réseaux de neurones d’aujourd’hui soient légèrement conscients. »

Le meilleur chercheur d’OpenAI a fait une affirmation surprenante cette semaine : que l’intelligence artificielle est peut-être déjà en train de prendre conscience.

Ilya Sutskever, scientifique en chef du groupe de recherche OpenAI, tweeté aujourd’hui qu’il se peut que les grands réseaux de neurones d’aujourd’hui soient légèrement conscients.

Inutile de dire que c’est un point de vue inhabituel. L’idée largement acceptée parmi les chercheurs en IA est que la technologie a fait de grands progrès au cours de la dernière décennie, mais qu’elle est encore loin de l’intelligence humaine, sans parler d’être proche de l’expérience consciente du monde.

Il est possible que Sutskever parlait facétieusement, mais il est également concevable qu’en tant que meilleur chercheur de l’un des plus grands groupes d’IA au monde, il regarde déjà vers le bas.

Il est depuis longtemps préoccupé par l’intelligence artificielle générale, ou AGI, qui ferait référence à l’IA qui opère à un niveau humain ou surhumain. Lors de son apparition dans le documentaire AI iHuman, par exemple, il a même déclaré que les AGI résoudraient tous les problèmes que nous avons aujourd’hui avant d’avertir qu’ils présenteraient également le potentiel de créer des dictatures infiniment stables.

Ce tweet, cependant, marque la première fois que Sutskever, qui a cofondé OpenAI aux côtés du PDG de SpaceX Elon Musk et du PDG de la société Sam Altman en 2015, semble avoir affirmé que la conscience de la machine est déjà arrivée.

Encore plus étrange est le fait qu’OpenAI a été fondée en tant qu’organisation à but non lucratif destinée spécifiquement à réduire les risques existentiels que les machines sensibles posent avant, dans une tournure sourcilleuse, de plonger dans la recherche essayant de faire exister une IA puissante.

Le groupe n’est pas non plus étranger au drame et à la controverse.

En 2019, Musk a quitté OpenAI au milieu des nouvelles selon lesquelles le groupe avait créé un faux générateur de textes d’actualités que certains pensaient trop dangereux à publier. Musc dit que il quittait l’organisation, qui a été fondée en 2015, parce qu’il n’était pas d’accord avec certaines choses [the] L’équipe d’OpenAI voulait le faire et n’y avait pas participé depuis plus d’un an. À peine un mois plus tard, OpenAI a annoncé qu’il n’était plus à but non lucratif et fonctionne désormais sur un modèle de profit plafonné.

Depuis lors, Musk semble avoir divergé davantage de sa position critique initiale au point que cette année, il a prophétisé que les prochains robots humanoïdes de Tesla pourraient jouer un rôle dans AGI, bien qu’il ait ajouté que son constructeur automobile ferait de son mieux pour garder son IA dans vérifier et, d’une manière ou d’une autre, obtenir un contrôle décentralisé des robots.

OpenAI, quant à lui, a passé la suite à continuer à rendre l’IA controversée tout en espérant, conformément à l’énoncé de mission de l’entreprise, en veillant à ce que l’intelligence générale artificielle profite à toute l’humanité.

Il est également resté dans les gros titres, notamment lorsque son modèle GPT-3 d’une intelligence alarmante a été utilisé par un programmeur pour créer un chatbot imitant son fiancé décédé, et lorsqu’un groupe de joueurs a travaillé pour convaincre le bot de cracher du contenu pédophile.

OpenAI a depuis reconfiguré GPT-3, qui, comme leExamen de la technologie MIT signalé en janvier 2022, se comporte désormais beaucoup mieux.

Il se peut que l’IA hyper-avancée soit inévitable. Il se peut aussi que les progrès s’essoufflent et que nous ne les voyions jamais, ou que cela prenne très longtemps.

Mais voir un expert de premier plan dire qu’ils assistaient déjà à l’essor des machines conscientes est vraiment choquant.

LIRE LA SUITE: Un ancien directeur de Google avertit que les chercheurs en IA créent Dieu

Souhaitez-vous soutenir l’adoption de l’énergie propre ? Découvrez combien d’argent (et la planète !) vous pourriez économiser en passant à l’énergie solaire sur UnderstandSolar.com. En vous inscrivant via ce lien, Futurism.com peut recevoir une petite commission.