Quand les guerriers de l’IA de la Silicon Valley sont arrivés à Washington

Alors que des dizaines d’agences d’évaluation financées par la technologie se répartissent entre les principaux nœuds politiques de Washington, elles déclenchent un choc culturel qui touche la culture progressive et soucieuse du détail de la ville, avec une ferveur plus proche des convertis religieux que des professionnels de la politique.

Les régulateurs de Washington vivent généralement dans un monde de conflits pratiques, comme la manière dont l’IA pourrait promouvoir le profilage racial, diffuser la désinformation, porter atteinte aux droits d’auteur ou déplacer des travailleurs. Mais les EA, dynamisés par un mélange unique de crainte et de peur au rythme de la technologie, typiquement californien du nord, habitent dans un domaine existentiel.

Les gens d’EA se distinguent par le fait qu’ils parlent d’un tout autre sujet, dans un tout autre style, a déclaré Robin Hanson, économiste à l’Université George Mason et ancien altruiste efficace. Ils donnent des arguments assez abstraits sur une préoccupation assez abstraite, et ils font monter les enjeux au maximum.

Depuis leurs nouveaux sièges au Capitole, dans les agences fédérales et dans les principaux groupes de réflexion, les EA font pression sur les législateurs, les responsables des agences et les professionnels politiques chevronnés pour qu’ils soutiennent des lois radicales qui aligneraient l’IA sur les objectifs et les valeurs humaines.

Pratiquement toutes les politiques que les EA et leurs alliés préconisent de nouvelles règles de reporting pour les modèles d’IA avancés, des exigences de licence pour les entreprises d’IA, des restrictions sur les modèles open source, des mesures répressives contre le mélange de l’IA avec la biotechnologie ou même une pause complète dans les expériences géantes d’IA sont dans la poursuite de cet objectif.

Cela ne devrait pas être regroupé dans la même veine que de dire : Eh bien, c’est juste un autre problème technique. Nous traitons des problèmes techniques depuis très longtemps, nous avons le temps de nous en occuper. Parce que ce n’est vraiment pas le cas, a déclaré Emilia Javorsky, directrice du programme d’avenir du Future of Life Institute, une organisation fondée par des sommités d’EA et financée en partie par une fondation financée par le milliardaire technologique Elon Musk, qui qualifie EA de proche de sa philosophie.

Si nous ne commençons pas à tracer les lignes dès maintenant, les génies sortiront de la bouteille et il sera presque impossible de les y remettre, a prévenu Javorsky.

Les prophètes de l’apocalypse de l’IA sont stimulés par une avalanche de dollars technologiques, dont une grande partie passe par Open Philanthropy, un bailleur de fonds majeur de causes altruistes efficaces, fondé et financé par le cofondateur milliardaire de Facebook Dustin Moskovitz et son épouse Cari Tuna, qui a a injecté des centaines de millions de dollars dans des groupes de réflexion et des programmes influents qui placent du personnel dans les principaux bureaux du Congrès et dans les agences fédérales.

Il s’agit d’une infiltration épique, a déclaré un chercheur en biosécurité à Washington, qui a accordé l’anonymat pour éviter les réactions négatives des bailleurs de fonds liés à l’EA.

Les EA sont particulièrement obsédés par la possibilité que les futurs systèmes d’IA puissent se combiner avec des outils de synthèse génétique et d’autres technologies pour créer des armes biologiques qui tuent des milliards de personnes, un phénomène qui donne aux chercheurs plus traditionnels en IA et en biosécurité une place au premier rang alors que la nouvelle philosophie en vogue de la Silicon Valley se répand. Washington.

Beaucoup de ces chercheurs affirment que les partisans milliardaires d’EA, qui entretiennent souvent des liens personnels et financiers étroits avec des sociétés comme OpenAI et Anthropic, tentent de détourner l’attention de Washington de l’examen de l’impact réel de l’IA, y compris sa tendance à promouvoir les préjugés raciaux ou sexistes, à porter atteinte à la vie privée et à affaiblir l’intelligence artificielle. protections du droit d’auteur.

Ils craignent également que les bailleurs de fonds de l’industrie technologique des EA agissent dans leur propre intérêt, en s’efforçant d’isoler les principales entreprises d’IA de la concurrence en promouvant des règles qui, au nom de la sécurité de l’IA, verrouillent l’accès à la technologie.

Beaucoup (EA) pensent que moins de joueurs et plus attentivement surveillés sont plus en sécurité, de leur point de vue, a déclaré Hanson. Ils ne sont donc pas très désireux de réduire la concentration dans cette industrie, ni la centralisation du pouvoir dans cette industrie.

Les origines généralement blanches et privilégiées des partisans de l’EA ont également suscité des soupçons à Washington, en particulier parmi les législateurs noirs préoccupés par la manière dont les systèmes d’IA existants peuvent nuire aux communautés marginalisées.

Je ne veux pas créer de stéréotypes sur les frères technologiques, mais nous savons que ce n’est pas un domaine qui sélectionne souvent la diversité de l’Amérique, a déclaré le sénateur. Cory Booker (DN.J.) a déclaré à POLITICO en septembre.

Cette idée qui allait d’une manière ou d’une autre arriver à un point où nous allions vivre dans un cauchemar de Terminator ouais, je suis préoccupé par ces choses existentielles, a déclaré Booker. Mais l’immédiateté de ce que nous utilisons déjà, la plupart des Américains ne se rendent pas compte que l’IA existe déjà, de la sélection de CV aux publicités que je vois sur mon téléphone.

Malgré ces inquiétudes, l’énorme quantité d’argent acheminée vers Washington par Open Philanthropy et d’autres groupes liés à l’EA a donné au mouvement un levier important sur le débat sur l’IA et la biosécurité à Washington.

L’argent est extrêmement déséquilibré, a déclaré Hanson, faisant référence au soutien aux chercheurs et aux membres du personnel chargés des politiques spécifiques à l’IA.

Les personnels de l’IA et de la biosécurité financés par Open Philanthropy sont intégrés dans les bureaux du Congrès à l’avant-garde des règles potentielles en matière d’IA, y compris dans les trois bureaux du Sénat exploités par le leader de la majorité. Chuck Schumer pour étudier la technologie. Et plus d’une demi-douzaine de chercheurs sceptiques en IA et en biosécurité qui ont parlé avec POLITICO affirment que le réseau dense de personnel de Capitol Hill et d’agences financé par des centaines de millions de dollars d’EA fausse la façon dont les décideurs politiques discutent de la sécurité de l’IA, qui reste par ailleurs un domaine relativement de niche dans Washington.

Un chercheur en IA et biosécurité à Washington a déclaré que les législateurs et autres professionnels politiques sont poussés à se concentrer sur les risques existentiels de l’IA par la simple force de la répétition.

Il s’agit plus simplement de la permanence de ce message, a déclaré le chercheur, qui a également obtenu l’anonymat pour éviter de perdre son financement.