Bienvenue au Musée du futur AI Apocalypse

Le Misalignment Museum imagine un avenir dans lequel l’IA commencera à emprunter la voie tracée dans d’innombrables films de science-fiction – devenant consciente de soi et se mettant à tuer l’humanité. Heureusement, dans la vision de Kim, les algorithmes se corrigent d’eux-mêmes et s’arrêtent avant de tuer tout le monde. Son musée, rempli d’allégories artistiques sur l’IA et l’art réalisé avec l’aide de l’IA, est présenté comme un mémorial du futur proche de l’extinction de l’humanité.

« C’est bizarre, parce que c’est un sujet tellement terrifiant, mais ça me rend heureuse que les gens s’y intéressent », dit Kim depuis un café de l’autre côté de la rue. Pendant que nous parlons, nous regardons les passants jeter un coup d’œil dans l’espace de la galerie – idéalement situé à huit pâtés de maisons des bureaux d’OpenAI – qui a un panneau proéminent « Désolé d’avoir tué la plupart de l’humanité » le long d’un mur.

Le projet a commencé il y a cinq mois, peu de temps avant que ChatGPT ne suscite des attentes dans l’industrie technologique et au-delà, nous sommes à l’aube d’une vague de perturbations de l’IA et en quelque sorte plus proches du concept nébuleux d’intelligence générale artificielle, ou AGI. Il n’y a pas de consensus sur la définition de l’AGI, mais le musée l’appelle la capacité de comprendre ou d’apprendre n’importe quelle tâche intellectuelle qu’un humain peut.

Kim dit que le musée est destiné à susciter des conversations sur les implications déstabilisatrices de la technologie soi-disant intelligente. La collection est répartie sur deux étages, avec des visions plus optimistes de notre avenir imprégné d’IA à l’étage et des visions dystopiques au niveau inférieur.

À l’étage, il y a de la musique pour piano composée de bactéries, une pièce interactive sur la « Création d’Adam » de Michel-Ange de la Chapelle Sixtine, et bientôt une installation qui utilise la vision par ordinateur de Google pour décrire les personnes et les objets qui apparaissent devant une caméra.

En bas se trouve l’art de Matrice : Résurrections (une scénographe du film, Barbara Munch Cameron, a aidé à planifier l’aménagement du musée), une conversation sans fin générée par l’IA entre Slavoj Žižek et Werner Herzog, et un bras robotique tenant un stylo qui écrit des notes du point de vue d’une IA qui considère les humains comme une menace.

« C’est le spot de selfie des portes de l’enfer », dit Kim, soulignant une citation de Dante au-dessus de l’entrée de la partie inférieure du musée : « Abandonnez tout espoir, vous qui entrez ici. » Le musée abrite également un deepfake d’Arnold Schwarzenegger s’exprimant à partir d’un script généré par ChatGPT, une statue de deux personnes s’embrassant à partir de 15 000 trombones censés être une allégorie de la sécurité de l’IA, et des robots arrivés de Vienne fabriqués à partir de boîtes de spam. avec des petits bras qui tapent.

« Il y a tellement de bienfaits que ce type de technologie peut engendrer, tellement de souffrances qu’elle peut prévenir, et puis il y a l’aspect de la quantité de destruction qu’elle peut causer et combien peut être perdue dans ce processus », déclare Kim, qui était l’un des premiers employés. de Google et a également travaillé aux Nations Unies et en tant qu’assistant de Paul Graham, cofondateur de l’incubateur de startups Y Combinator. « Je ne pense pas que nous ayons toutes les réponses. Nous devons juste être très pro-humains et donner aux gens les moyens essentiels de réfléchir à cette technologie. »

L’exposition temporaire est financée jusqu’en mai par un donateur anonyme, mais l’espace montre l’influence d’un certain nombre de fondateurs et de penseurs technologiques, d’un cadre tweeter sur l’IA et l’altruisme efficace par le cofondateur de Facebook Dustin Moskovitz dans la baignoire pleine de pâtes près de l’entrée de l’exposition. Ce dernier fait référence aux idées de Holden Karnofsky, cofondateur avec Moskovitz d’Open Philanthropy, qui a financé OpenAI et d’autres travaux concernés par la voie future de l’IA. Karnofsky a fait valoir que nous vivons dans ce qui pourrait être le siècle le plus important de l’histoire de l’humanité, avant l’arrivée potentielle de l’IA transformationnelle qu’il appelle Processus d’automatisation du progrès scientifique et technologique, ou PASTA.

Les tentatives de prédire l’avenir lointain de l’IA se sont récemment concentrées sur ChatGPT et les technologies associées, comme la nouvelle interface de recherche de Microsoft, malgré ses limites bien documentées et sa valeur encore incertaine. Les entrepreneurs qui parient sur la technologie font des déclarations éloquentes sur ce que leur technologie est capable de faire. La semaine dernière, le PDG d’OpenAI a publié un article de blog sur la façon dont l’entreprise «planifie pour AGI».

Peu de temps après, la Federal Trade Commission des États-Unis, une agence qui protège contre les pratiques commerciales trompeuses, a mis en garde les spécialistes du marketing contre les fausses déclarations sur ce que leur technologie est capable de faire. L’avocat de la FTC, Michael Atleson, a écrit dans son propre article de blog que « nous ne vivons pas encore dans le domaine de la science-fiction, où les ordinateurs peuvent généralement faire des prédictions fiables du comportement humain ».

De nombreux chercheurs en IA pensent que, même si les systèmes d’IA génératifs comme ChatGPT peuvent être impressionnants, la technologie ne mérite pas d’être créditée d’intelligence, car l’algorithme ne fait que répéter et remixer les modèles de ses données de formation.

Dans cette optique, il vaut mieux considérer l’IA étroite d’aujourd’hui comme une calculatrice ou un grille-pain, et non comme un être sensible. Certains éthiciens de l’IA pensent que l’attribution de caractéristiques humaines telles que la sensibilité à la technologie peut détourner l’attention des conversations sur d’autres formes d’automatisation nuisibles telles que la technologie de surveillance exportée par des entreprises dans des pays démocratiques et autoritaires.

Kim dit qu’elle s’est d’abord familiarisée avec l’apprentissage automatique en tant que première embauche de la start-up de conduite autonome Cruise, acquise plus tard par General Motors. Elle a commencé à réfléchir à la façon dont une IA qui fonctionne correctement pourrait éliminer beaucoup de morts et de souffrances inutiles, mais aussi que si la technologie ne fonctionne pas, elle pourrait présenter un risque énorme pour des vies humaines.

En plus d’exposer de l’art de l’IA et de l’art sur l’IA, le Misalignment Museum prévoit d’organiser des projections de films qui explorent le potentiel plus sombre de la technologie, comme Le Terminateur, Ex-Machina, Sonet Théâtre de la penséeun documentaire de 2022 sur les neurosciences et l’IA réalisé par Herzog.

Kim dit qu’elle trouve peu probable que l’IAG tue la majeure partie de l’humanité, malgré le thème de son exposition, mais que les gens devraient réfléchir aux impacts de l’IA qui apparaissent déjà, comme les éducateurs et les éditeurs littéraires qui tentent d’analyser la différence entre le texte généré par l’homme et l’IA, ou les propres discussions de WIRED sur la façon dont l’IA générative pourrait ou devrait aider les journalistes.

« L’IA va nous affecter tous, donc pour moi, il s’agit de savoir comment faire en sorte que le plus grand nombre de personnes commence à y réfléchir et à se faire sa propre opinion », déclare Kim. Le musée du désalignement est ouvert au public jeudi, vendredi et samedi. Elle prévoit d’organiser des visites pour les groupes scolaires afin d’examiner les expositions et de parcourir une bibliothèque de matériel de lecture sur les opportunités et les dommages potentiels de l’intelligence artificielle.

« Je travaille à obtenir des escabeaux pour que les enfants puissent voir les yeux des Spambots quand ils entrent », dit Kim.

Mis à jour le 3-3-2023, 13h50 HNE : Kim dit que son chien Murphy se lie d’amitié avec les corbeaux, pas avec les corbeaux.