Le PDG d’OpenAI prévient que les « désalignements sociétaux » pourraient rendre l’intelligence artificielle dangereuse

DUBAÏ, Émirats arabes unis (AP) Le PDG de ChatGPT-maker OpenAI a déclaré mardi que les dangers qui l’empêchent de dormir la nuit en ce qui concerne l’intelligence artificielle sont les désalignements sociétaux très subtils qui pourraient faire des ravages dans les systèmes.

Sam Altman, s’exprimant lors du Sommet mondial des gouvernements à Dubaï via un appel vidéo, a réitéré son appel à un organisme comme l’Agence internationale de l’énergie atomique être créé pour superviser l’IA qui progresse probablement plus rapidement que prévu.

Il y a des choses là-dedans qui sont faciles à imaginer et où les choses tournent vraiment mal. Et je ne suis pas très intéressé par les robots tueurs marchant dans la rue dans la direction où les choses tournent mal, a déclaré Altman. Je suis beaucoup plus intéressé par les désalignements sociétaux très subtils où nous avons simplement ces systèmes dans la société et sans mauvaise intention particulière, les choses tournent horriblement mal.

Cependant, Altman a souligné que l’industrie de l’IA, comme OpenAI, ne devrait pas être aux commandes lorsqu’il s’agit d’élaborer des réglementations régissant l’industrie.

Nous sommes encore au stade de nombreuses discussions. Donc, vous savez, tout le monde dans le monde tient une conférence. Tout le monde a une idée, un document politique, et ce n’est pas grave, a déclaré Altman. Je pense que nous sommes encore à une époque où le débat est nécessaire et sain, mais à un moment donné au cours des prochaines années, je pense que nous devrons nous diriger vers un plan d’action avec une réelle adhésion partout dans le monde.

OpenAI, une startup d’intelligence artificielle basée à San Francisco, est l’un des leaders dans le domaine. Microsoft a investi des milliards de dollars dans OpenAI. Le Associated Press a signé un accord avec OpenAI pour accéder à ses archives d’actualités. Entre-temps, Le New York Times a poursuivi OpenAI et Microsoft sur l’utilisation de ses histoires sans autorisation pour former des chatbots OpenAI.

Le succès d’OpenAI a fait d’Altman le visage public de commercialisation rapide des IA génératives et les craintes quant à ce qui pourrait résulter de la nouvelle technologie.

Les Émirats arabes unis, une fédération autocratique de sept cheikhs gouvernés héréditairement, présentent des signes de ce risque. La parole reste étroitement contrôlée. Ces restrictions affectent le flux d’informations précises sur lesquelles les programmes d’IA comme ChatGPT s’appuient en tant que systèmes d’apprentissage automatique pour fournir leurs réponses aux utilisateurs.

Les Émirats ont également la société d’Abu Dhabi G42, supervisé par le puissant conseiller à la sécurité nationale du pays. G42 possède ce que les experts suggèrent comme le premier modèle mondial d’intelligence artificielle en langue arabe. L’entreprise a fait l’objet d’allégations d’espionnage en raison de ses liens avec une application pour téléphone mobile identifiée comme un logiciel espion. Il a également fait face à des réclamations qu’il aurait pu recueillir matériel génétique secrètement provenant des Américains pour le gouvernement chinois.

Le G42 a déclaré qu’il romprait ses liens avec les fournisseurs chinois en raison des préoccupations américaines. Cependant, la discussion avec Altman, modérée par le ministre d’État chargé de l’Intelligence artificielle des Émirats arabes unis, Omar al-Olama, n’a abordé aucune des préoccupations locales.

Pour sa part, Altman s’est dit réconforté de voir que les écoles, où les enseignants craignaient que les élèves n’utilisent l’IA pour rédiger leurs devoirs, considèrent désormais cette technologie comme cruciale pour l’avenir. Mais il a ajouté que l’IA en est encore à ses balbutiements.

Je pense que la raison en est que la technologie actuelle dont nous disposons est comme… ce tout premier téléphone portable avec un écran noir et blanc, a déclaré Altman. Alors donnez-nous du temps. Mais je dirai que je pense que dans quelques années, ce sera bien mieux qu’aujourd’hui. Et dans une décennie, cela devrait être assez remarquable.