Comment l’IA sait des choses que personne ne lui a dites

Personne ne sait encore comment ChatGPT et ses cousins ​​de l’intelligence artificielle vont transformer le monde, et l’une des raisons est que personne ne sait vraiment ce qui se passe à l’intérieur. Certaines des capacités de ces systèmes vont bien au-delà de ce pour quoi ils ont été formés, et même leurs inventeurs ne savent pas pourquoi. Un nombre croissant de tests suggèrent que ces systèmes d’IA développent des modèles internes du monde réel, tout comme notre propre cerveau le fait, bien que la technique des machines soit différente.

Publicité

« Tout ce que nous voulons faire avec eux pour les rendre meilleurs ou plus sûrs ou quelque chose comme ça me semble une chose ridicule à nous demander de faire si nous ne comprenons pas comment ils fonctionnent », déclare Ellie Pavlick de l’Université Brown, l’un des chercheurs travaillant à combler ce vide explicatif.

À un certain niveau, elle et ses collègues comprennent parfaitement le GPT (abréviation de generative pretrained transformer) et d’autres grands modèles de langage, ou LLM. Les modèles reposent sur un système d’apprentissage automatique appelé réseau de neurones. De tels réseaux ont une structure vaguement calquée sur les neurones connectés du cerveau humain. Le code de ces programmes est relativement simple et ne remplit que quelques écrans. Il met en place un algorithme d’autocorrection, qui choisit le mot le plus susceptible de compléter un passage sur la base d’une analyse statistique laborieuse de centaines de gigaoctets de texte Internet. Une formation supplémentaire garantit que le système présentera ses résultats sous forme de dialogue. En ce sens, il ne fait que régurgiter ce qu’il a appris – c’est un « perroquet stochastique », selon les mots d’Emily Bender, linguiste à l’Université de Washington. Mais les LLM ont également réussi à réussir l’examen du barreau, à expliquer le boson de Higgs en pentamètre iambique et à tenter de rompre le mariage de leurs utilisateurs. Peu de gens s’attendaient à ce qu’un algorithme d’autocorrection assez simple acquière des capacités aussi larges.

Le fait que GPT et d’autres systèmes d’IA effectuent des tâches pour lesquelles ils n’ont pas été formés, leur donnant des « capacités émergentes », a surpris même les chercheurs qui étaient généralement sceptiques quant au battage médiatique sur les LLM. « Je ne sais pas comment ils le font ou s’ils pourraient le faire plus généralement comme le font les humains, mais ils ont contesté mon point de vue », déclare Melanie Mitchell, chercheuse en IA à l’Institut Santa Fe.

Publicité

« C’est certainement bien plus qu’un perroquet stochastique, et il construit certainement une certaine représentation du monde, bien que je ne pense pas que ce soit tout à fait comme la façon dont les humains construisent un modèle de monde interne », déclare Yoshua Bengio, chercheur en intelligence artificielle à l’université. de Montréal.

Lors d’une conférence à l’Université de New York en mars, le philosophe Raphaël Millière de l’Université de Columbia a offert un autre exemple à couper le souffle de ce que les LLM peuvent faire. Les modèles avaient déjà démontré leur capacité à écrire du code informatique, ce qui est impressionnant mais pas trop surprenant car il y a tellement de code à imiter sur Internet. Millière est allé plus loin et a montré que GPT peut également exécuter du code. Le philosophe a tapé dans un programme pour calculer le 83e nombre de la suite de Fibonacci. « C’est un raisonnement en plusieurs étapes d’un très haut degré », dit-il. Et le bot l’a cloué. Cependant, lorsque Millière a demandé directement le 83e nombre de Fibonacci, GPT s’est trompé : cela suggère que le système ne faisait pas que répéter Internet. Il effectuait plutôt ses propres calculs pour parvenir à la bonne réponse.

Bien qu’un LLM s’exécute sur un ordinateur, ce n’est pas lui-même un ordinateur. Il manque des éléments de calcul essentiels, tels que la mémoire de travail. Reconnaissant tacitement que GPT seul ne devrait pas être capable d’exécuter du code, son inventeur, la société technologique OpenAI, a depuis introduit un plug-in spécialisé – un outil que ChatGPT peut utiliser pour répondre à une requête – qui lui permet de le faire. . Mais ce plug-in n’a pas été utilisé dans la démonstration de Millière. Au lieu de cela, il émet l’hypothèse que la machine a improvisé une mémoire en exploitant ses mécanismes pour interpréter les mots en fonction de leur contexte – une situation similaire à la façon dont la nature réutilise les capacités existantes pour de nouvelles fonctions.

Publicité

Cette capacité impromptue démontre que les LLM développent une complexité interne qui va bien au-delà d’une analyse statistique superficielle. Les chercheurs constatent que ces systèmes semblent parvenir à une véritable compréhension de ce qu’ils ont appris. Dans une étude présentée la semaine dernière à la Conférence internationale sur les représentations de l’apprentissage (ICLR), le doctorant Kenneth Li de l’Université de Harvard et ses collègues chercheurs en intelligence artificielle, Aspen K. Hopkins du Massachusetts Institute of Technology, David Bau de la Northeastern University et Fernanda Viégas , Hanspeter Pfister et Martin Wattenberg, tous à Harvard, ont créé leur propre copie plus petite du réseau neuronal GPT afin qu’ils puissent étudier son fonctionnement interne. Ils l’ont entraîné sur des millions de matchs du jeu de société Othello en alimentant de longues séquences de coups sous forme de texte. Leur modèle est devenu un joueur presque parfait.

Pour étudier comment le réseau de neurones encodait les informations, ils ont adopté une technique que Bengio et Guillaume Alain, également de l’Université de Montréal, ont imaginée en 2016. Ils ont créé un réseau de « sondes » miniatures pour analyser le réseau principal couche par couche. Li compare cette approche aux méthodes des neurosciences. « C’est comme lorsque nous plaçons une sonde électrique dans le cerveau humain », dit-il. Dans le cas de l’IA, la sonde a montré que son « activité neuronale » correspondait à la représentation d’un plateau de jeu Othello, bien que sous une forme alambiquée. Pour confirmer cela, les chercheurs ont exécuté la sonde en sens inverse pour implanter des informations dans le réseau, par exemple en retournant l’un des marqueurs noirs du jeu sur un blanc. « Fondamentalement, nous piratons le cerveau de ces modèles de langage », explique Li. Le réseau a ajusté ses mouvements en conséquence. Les chercheurs ont conclu qu’il jouait à Othello à peu près comme un humain : en gardant un plateau de jeu dans son « esprit » et en utilisant ce modèle pour évaluer les mouvements. Li dit qu’il pense que le système apprend cette compétence parce que c’est la description la plus parcimonieuse de ses données de formation. « Si on vous donne beaucoup de scripts de jeu, essayer de comprendre la règle sous-jacente est la meilleure façon de compresser », ajoute-t-il.

Cette capacité à déduire la structure du monde extérieur ne se limite pas à de simples mouvements de jeu ; il apparaît également dans le dialogue. Belinda Li (aucun lien avec Kenneth Li), Maxwell Nye et Jacob Andreas, tous au MIT, ont étudié les réseaux qui jouaient à un jeu d’aventure textuel. Ils ont nourri des phrases telles que « La clé est dans le coffre au trésor », suivies de « Vous prenez la clé ». À l’aide d’une sonde, ils ont découvert que les réseaux encodaient en eux des variables correspondant à « la poitrine » et « vous », chacun ayant la propriété de posséder ou non une clé, et ont mis à jour ces variables phrase par phrase. Le système n’avait aucun moyen indépendant de savoir ce qu’est une boîte ou une clé, mais il a retenu les concepts dont il avait besoin pour cette tâche. « Il y a une représentation de l’état caché à l’intérieur du modèle », explique Belinda Li.

Publicité

Les chercheurs s’émerveillent de voir à quel point les LLM sont capables d’apprendre du texte. Par exemple, Pavlick et son doctorat. L’étudiante Roma Patel a découvert que ces réseaux absorbent les descriptions de couleur du texte Internet et construisent des représentations internes de la couleur. Lorsqu’ils voient le mot « rouge », ils le traitent non seulement comme un symbole abstrait, mais comme un concept qui a une certaine relation avec le marron, le cramoisi, le fuchsia, la rouille, etc. Démontrer cela était quelque peu délicat. Au lieu d’insérer une sonde dans un réseau, les chercheurs ont étudié sa réponse à une série d’invites textuelles. Pour vérifier s’il faisait simplement écho aux relations de couleur à partir de références en ligne, ils ont essayé de mal diriger le système en lui disant que le rouge est en fait du vert, comme la vieille expérience de pensée philosophique dans laquelle le rouge d’une personne est le vert d’une autre personne. Plutôt que de répéter une réponse incorrecte, les évaluations de couleur du système ont changé de manière appropriée afin de maintenir les relations correctes.

Reprenant l’idée que pour remplir sa fonction d’autocorrection, le système recherche la logique sous-jacente de ses données d’apprentissage, le chercheur en apprentissage automatique Sébastien Bubeck de Microsoft Research suggère que plus la gamme de données est large, plus les règles du système sont générales. va découvrir. « Peut-être que nous assistons à un saut aussi énorme parce que nous avons atteint une diversité de données, qui est suffisamment grande pour que le seul principe sous-jacent à tout cela soit que des êtres intelligents les ont produites », dit-il. « Et donc la seule façon d’expliquer toutes ces données est [for the model] devenir intelligent. »

En plus d’extraire le sens sous-jacent de la langue, les LLM sont capables d’apprendre à la volée. Dans le domaine de l’IA, le terme « apprentissage » est généralement réservé au processus de calcul intensif dans lequel les développeurs exposent le réseau de neurones à des gigaoctets de données et modifient ses connexions internes. Au moment où vous tapez une requête dans ChatGPT, le réseau devrait être réparé ; contrairement aux humains, il ne devrait pas continuer à apprendre. Il a donc été surprenant que les LLM apprennent, en fait, des invites de leurs utilisateurs – une capacité connue sous le nom d ‘«apprentissage en contexte». « C’est un type d’apprentissage différent dont on ne comprenait pas vraiment l’existence auparavant », déclare Ben Goertzel, fondateur de la société d’intelligence artificielle SingularityNET.

Publicité

Un exemple de la façon dont un LLM apprend vient de la façon dont les humains interagissent avec les chatbots tels que ChatGPT. Vous pouvez donner au système des exemples de la façon dont vous voulez qu’il réponde, et il obéira. Ses sorties sont déterminées par les derniers milliers de mots qu’il a vus. Ce qu’il fait, étant donné ces mots, est prescrit par ses connexions internes fixes – mais la séquence de mots offre néanmoins une certaine adaptabilité. Des sites Web entiers sont consacrés aux invites de « jailbreak » qui surmontent les « garde-corps » du système – des restrictions qui empêchent le système de dire aux utilisateurs comment fabriquer une bombe artisanale, par exemple – généralement en demandant au modèle de prétendre être un système sans garde-corps. Certaines personnes utilisent le jailbreak à des fins sommaires, mais d’autres le déploient pour obtenir des réponses plus créatives. « Il répondra aux questions scientifiques, je dirais, mieux » que si vous le posiez directement, sans l’invite spéciale de jailbreak, déclare William Hahn, codirecteur du Machine Perception and Cognitive Robotics Laboratory de la Florida Atlantic University. « C’est mieux à la bourse. »

Un autre type d’apprentissage en contexte se produit via l’incitation à la «chaîne de pensée», ce qui signifie demander au réseau d’épeler chaque étape de son raisonnement – une tactique qui lui permet de mieux résoudre les problèmes de logique ou d’arithmétique nécessitant plusieurs étapes. (Mais une chose qui a rendu l’exemple de Millière si surprenant est que le réseau a trouvé le nombre de Fibonacci sans un tel encadrement.)

En 2022, une équipe de Google Research et de l’École polytechnique fédérale de Zurich – Johannes von Oswald, Eyvind Niklasson, Ettore Randazzo, João Sacramento, Alexander Mordvintsev, Andrey Zhmoginov et Max Vladymyrov – a montré que l’apprentissage en contexte suit le même processus informatique de base. procédure comme apprentissage standard, connu sous le nom de descente de gradient. Cette procédure n’était pas programmée ; le système l’a découvert sans aide. « Cela devrait être une compétence acquise », déclare Blaise Agüera y Arcas, vice-président de Google Research. En fait, il pense que les LLM peuvent avoir d’autres capacités latentes que personne n’a encore découvertes. « Chaque fois que nous testons une nouvelle capacité que nous pouvons quantifier, nous la trouvons », dit-il.

Publicité

Bien que les LLM aient suffisamment d’angles morts pour ne pas être qualifiés d’intelligence générale artificielle, ou AGI – le terme désignant une machine qui atteint l’ingéniosité du cerveau animal – ces capacités émergentes suggèrent à certains chercheurs que les entreprises technologiques sont plus proches de l’IAG que même les optimistes ne l’avaient deviné. « Ce sont des preuves indirectes que nous ne sommes probablement pas si loin de l’AGI », a déclaré Goertzel en mars lors d’une conférence sur l’apprentissage en profondeur à la Florida Atlantic University. Les plug-ins d’OpenAI ont donné à ChatGPT une architecture modulaire un peu comme celle du cerveau humain. « Combiner GPT-4 [the latest version of the LLM that powers ChatGPT] avec divers plug-ins pourrait être une voie vers une spécialisation humaine de la fonction », déclare Anna Ivanova, chercheuse au MIT.

Dans le même temps, cependant, les chercheurs craignent que la fenêtre ne se referme sur leur capacité à étudier ces systèmes. OpenAI n’a pas divulgué les détails de la conception et de la formation de GPT-4, en partie parce qu’il est en concurrence avec Google et d’autres sociétés, sans parler d’autres pays. « Il y aura probablement moins de recherche ouverte de l’industrie, et les choses seront plus cloisonnées et organisées autour des produits de construction », déclare Dan Roberts, physicien théoricien au MIT, qui applique les techniques de sa profession à la compréhension de l’IA.

Et ce manque de transparence ne nuit pas seulement aux chercheurs ; cela entrave également les efforts visant à comprendre les impacts sociaux de la ruée vers l’adoption de la technologie de l’IA. « La transparence sur ces modèles est la chose la plus importante pour assurer la sécurité », déclare Mitchell.