La meilleure façon de contrer la mauvaise intelligence artificielle est d’utiliser une bonne IA
Les terroristes et autres acteurs malveillants pourraient-ils utiliser l’intelligence artificielle pour créer une pandémie mortelle ? Des scientifiques de Harvard et du Massachusetts Institute of Technology ont mené une expérience pour le savoir l’année dernière.
Des chercheurs ont demandé à un groupe d’étudiants, dont aucun n’avait suivi de formation spécialisée en sciences de la vie, d’utiliser des outils d’IA, comme ChatGPT-4 d’OpenAI, pour élaborer un plan de déclenchement d’une pandémie. En une heure seulement, les participants ont appris à se procurer et à synthétiser des agents pathogènes mortels comme la variole de manière à échapper aux systèmes de biosécurité existants.
L’IA ne peut pas encore créer une crise de sécurité nationale. Comme le rappelle Jason Matheny de Rand, si le savoir biologique devient de plus en plus accessible grâce à l’IA, il n’atteint pas encore un niveau suffisant pour compenser le manque de formation en recherche biologique. Mais à mesure que la biotechnologie devient plus avancée (pensez à Google DeepMinds AlphaFold, qui utilise l’IA pour prédire la manière dont les structures moléculaires vont interagir), les décideurs politiques craignent à juste titre qu’il soit de plus en plus facile de créer une arme biologique. Ils commencent donc à prendre des mesures pour réglementer le secteur émergent de l’IA.
Leurs efforts sont bien intentionnés. Mais il est essentiel que les décideurs politiques évitent de se concentrer trop étroitement sur les risques de catastrophe et de freiner par inadvertance la création d’outils d’IA positifs dont nous avons besoin pour faire face aux crises futures. Nous devons chercher à trouver un équilibre.
Les outils d’IA ont un potentiel positif énorme. Par exemple, des technologies d’IA comme AlphaFold et RFdiffusion ont déjà fait de grands progrès dans la conception de nouvelles protéines qui pourraient être utilisées à des fins médicales. Le même type de technologies peut bien sûr également être utilisé à des fins malveillantes.
Dans une étude publiée l’année dernière dans la revue Nature Machine Intelligence, des chercheurs ont démontré comment l’IA MegaSyn pouvait générer 40 000 produits chimiques d’armes biologiques potentielles en seulement six heures. Les chercheurs ont demandé à l’IA d’identifier des molécules similaires au VX, un agent neurotoxique extrêmement mortel. Dans certains cas, MegaSyn a conçu des composés encore plus toxiques.
Il est possible que des acteurs malveillants puissent un jour utiliser de tels outils pour concevoir de nouveaux agents pathogènes bien plus contagieux et mortels que ceux que l’on trouve dans la nature. Une fois qu’une arme biologique potentielle est identifiée – peut-être avec l’aide de l’IA – un acteur malveillant pourrait commander un brin d’ADN personnalisé auprès d’un fournisseur commercial, qui fabriquerait de l’ADN synthétique en laboratoire et le renverrait par courrier. Comme l’ont avancé des experts du Centre pour la sécurité et les technologies émergentes de l’Université de Georgetown, ce brin de matériel génétique code peut-être pour une toxine ou un gène qui rend un agent pathogène plus dangereux.
Il est même possible qu’un terroriste puisse échapper à la détection en commandant de petits morceaux d’une séquence génétique dangereuse, puis en assemblant les composants pour en faire une arme biologique. Les scientifiques commandent fréquemment de l’ADN synthétique pour des projets tels que la recherche sur le cancer et les maladies infectieuses. Mais tous les fournisseurs d’ADN synthétique ne contrôlent pas les commandes ou ne vérifient pas leurs clients.
Il serait utile de combler ces lacunes, mais nous ne pouvons pas éliminer tous les risques par la réglementation. Il serait plus sage de renforcer nos défenses en investissant dans des systèmes de détection précoce basés sur l’IA.
Aujourd’hui, le programme de surveillance génomique des voyageurs des Centres pour le contrôle et la prévention des maladies (Centers for Disease Control and Prevention) s’associe à des aéroports de tout le pays pour recueillir et analyser des échantillons d’eaux usées et de prélèvements nasaux afin de détecter les agents pathogènes lorsqu’ils entrent à nos frontières. D’autres systèmes sont en place pour suivre des agents pathogènes particuliers dans les villes et les communautés. Mais les systèmes de détection existants ne sont probablement pas équipés pour les nouveaux agents conçus avec l’aide de l’IA.
Les services de renseignement américains investissent déjà dans des capacités basées sur l’intelligence artificielle pour se défendre contre les menaces de nouvelle génération. Le programme FELIX de l’IARPA, en partenariat avec des entreprises de biotechnologie privées, a donné naissance à une IA de premier ordre capable de distinguer les menaces génétiquement modifiées de celles qui se produisent naturellement, et d’identifier ce qui a été modifié et comment. Une technologie similaire pourrait être utilisée pour le criblage de la synthèse de l’ADN – avec l’IA, nous pourrions utiliser des algorithmes qui prédisent comment de nouvelles combinaisons de séquences génétiques pourraient fonctionner.
Nous commençons à peine à exploiter le potentiel de l’IA pour détecter et protéger contre les menaces biologiques. Dans le cas d’une nouvelle maladie infectieuse, ces systèmes ont le pouvoir de déterminer comment et quand un pathogène a muté. Cela peut permettre le développement rapide de vaccins et de traitements spécifiquement adaptés aux nouveaux variants. L’IA peut également aider à prédire comment un pathogène est susceptible de se propager. Pour que ces technologies jouent leur rôle vital, les dirigeants de Washington et du monde entier doivent prendre des mesures pour renforcer nos défenses contre l’IA. Le meilleur moyen de contrer la mauvaise IA n’est pas de ne pas avoir d’IA, mais de la bonne IA.
L’exploitation de tout le potentiel de l’IA pour se protéger contre les pandémies mortelles et la guerre biologique exige un effort politique agressif. Il est temps que les décideurs politiques s’adaptent. Avec une prévoyance et des ressources adéquates, nous pouvons devancer cette nouvelle catégorie de menaces.
Andrew Makridis est l’ancien directeur des opérations de la CIA, le troisième poste de l’agence. Avant sa retraite de la CIA en 2022, il a passé près de quatre décennies à travailler dans le domaine de la sécurité nationale.