Les créateurs d’IA doivent étudier la conscience, avertissent les experts – BBC News Afrique

Une lettre ouverte signée par des dizaines d’universitaires du monde entier appelle les développeurs d’intelligence artificielle à en savoir plus sur la conscience, à mesure que les systèmes d’IA deviennent plus avancés.

« Ce n’est plus dans le domaine de la science-fiction d’imaginer des systèmes d’IA ayant des sentiments et même une conscience au niveau humain », dit-il.

La plupart des experts s’accordent à dire que l’IA est loin d’atteindre ce niveau de sophistication.

Mais il évolue rapidement et certains disent que les développements devraient être interrompus.

Le terme IA couvre les systèmes informatiques capables d’effectuer des tâches qui nécessiteraient normalement l’intelligence humaine. Cela inclut des chatbots capables de comprendre les questions et de répondre avec des réponses de type humain, et des systèmes capables de reconnaître des objets sur des images.

Generative Pre-trained Transformer 4 (GPT-4), un système d’IA développé par le créateur du chatbot ChatGPT OpenAI, peut désormais passer avec succès l’examen du barreau, la qualification professionnelle des avocats, bien qu’il commette encore des erreurs et puisse partager des informations erronées.

Mais ce n’est qu’une fonction de l’IA. Les produits d’IA sont déployés dans de nombreux secteurs, notamment la recherche en santé, le marketing et la finance.

Et mardi, son ex-femme, Tallulah Riley, a tweeté que l’intelligence artificielle générale (AGI) – une IA capable d’accomplir des tâches intellectuelles de niveau humain – avait besoin « de l’équivalent de [environmental activist] Greta Thunberg » pour sensibiliser et encourager le débat public.

L’Association for Mathematical Consciousness Science (AMCS), qui a compilé la lettre ouverte, intitulée « Le développement responsable de l’agenda de l’IA doit inclure la recherche sur la conscience », a déclaré qu’elle n’avait pas d’opinion sur la question de savoir si le développement de l’IA en général devait être suspendu.

Mais cela a poussé à une meilleure compréhension scientifique de la conscience, comment elle pourrait s’appliquer à l’IA et comment la société pourrait vivre à ses côtés.

« Le développement rapide de l’IA révèle le besoin urgent d’accélérer la recherche dans le domaine de la science de la conscience », indique la lettre.

Ses signataires incluent le Dr Susan Schneider, ancienne professeure à la NASA, ainsi que des universitaires d’universités du Royaume-Uni, des États-Unis et d’Europe.

Blake Lemoine a écrit le grand modèle de langage de Google, Lamda, qui sous-tend son rival ChatGPT, Bard, a exprimé ses sentiments.

Google a maintenu que Lamda faisait exactement ce pour quoi il avait été programmé – communiquer de manière humaine.

Mais le patron de Google, Sundar Pichai, a récemment déclaré à la plateforme d’information américaine CBS qu’il ne « comprenait pas parfaitement » le fonctionnement de Bard.

L’esprit humain n’était pas entièrement compris non plus, a-t-il ajouté, c’est pourquoi l’AMCS appelle à davantage de recherches.

Mais il y a autant d’excitation que de nervosité autour de l’IA. C’est le grand mot à la mode dans les grandes technologies et l’argent des investissements afflue dans les projets liés à l’IA.

Sorti en novembre, ChatGPT est devenu une sensation virale instantanée, le « visage » populiste de l’IA, avec des millions de personnes qui l’ont essayé.

En utilisant Internet comme base de données, il peut donner des réponses écrites aux questions d’une manière naturelle et humaine.

Microsoft, qui a beaucoup investi dans OpenAI, affirme que l’IA peut éliminer « la corvée » des tâches banales telles que l’administration de bureau.

Et si l’industrie de l’IA créera de nouveaux emplois humains, elle nécessitera probablement de nouvelles compétences.