La CISA dirige le premier exercice théorique sur la cybersécurité de l’IA
Souhaitant renforcer ses capacités de réponse aux incidents avant que l’intelligence artificielle ne devienne une menace encore plus grande, le gouvernement fédéral a organisé jeudi son premier exercice sur table pour cette technologie en plein essor, en faisant appel à des partenaires de tout le pays et de l’étranger pour l’exercice.
L’Agence de cybersécurité et de sécurité des infrastructures a dirigé les travaux dans le cadre du Joint Cyber Defense Collaborative, la branche opérationnelle de l’agence de cyberdéfense qui se concentre sur la collaboration avec l’industrie, aux côtés de 50 experts en IA provenant de 15 entreprises et de plusieurs agences internationales de cyberdéfense.
Ce projet de table est l’une des nombreuses initiatives de l’administration Biden ces derniers mois visant à atténuer les risques potentiels liés à la technologie, alors que de grandes entreprises comme Microsoft font pression pour une sortie rapide de produits basés sur l’IA qui pourraient être exploités par les cybercriminels.
La CISA n’a pas divulgué les détails des trois modules de l’exercice, mais l’exercice avec l’industrie s’est concentré sur la compréhension de ce qui constitue les incidents de cybersécurité liés à l’IA ou liés à l’IA, sur la détermination des types de partage d’informations nécessaires et sur la manière dont l’industrie peut travailler au mieux avec le gouvernement, et vice versa.
Un cyber-incident pourrait signifier qu’un système d’IA lui-même est compromis, ou qu’un autre système créé par une IA est menacé, a déclaré Clayton Romans, directeur associé du Joint Cyber Defense Collaborative à la CISA.
« L’essentiel est que l’IA peut être vulnérable de multiples façons », a déclaré Romans. « Il s’agit en partie d’établir un lexique et une compréhension avec les entreprises qui sont nouvelles dans ce domaine, et de les mettre en relation avec d’autres entreprises avec lesquelles nous travaillons depuis un certain temps déjà au sein du JCDC, afin de construire une compréhension mutuelle et une technologie de base. »
L’exercice de simulation d’IA de quatre heures fait partie du développement du prochain manuel de collaboration sur les incidents de sécurité de l’IA de la CISA. Le manuel, qui devrait être publié fin 2024, sera le premier d’une longue série d’efforts de collaboration du JCDC, a déclaré Romans. Il définira la coordination de la réponse aux incidents spécifiques à l’IA entre les secteurs public et privé ainsi que les agences internationales.
« Nous utilisons cet exercice maintenant pour jeter les bases de la manière dont nous allons collaborer ensemble entre ces entreprises clés, probablement de futures entreprises clés, et nos partenaires très proches et importants du gouvernement américain qui ont tous un rôle à jouer dans cet espace », a déclaré Romans.
En avril, la CISA a publié des lignes directrices sur la sécurité de l’IA pour les propriétaires et les exploitants d’infrastructures critiques. Le ministère de la Sécurité intérieure a également lancé un comité de sécurité et de sûreté de l’IA axé sur l’impact de l’IA sur les infrastructures critiques.
En outre, la CISA a mis en place un groupe de travail pour étudier comment l’IA peut être utilisée pour atténuer les menaces provenant des chaînes d’approvisionnement, a indiqué la directrice de la CISA, Jen Easterly, lors d’un sommet sur la chaîne d’approvisionnement mercredi.
Pour l’exercice sur table de jeudi, la CISA a travaillé aux côtés du FBI, de la NSA, du ministère de la Défense, du Bureau du directeur du renseignement national et de la Cyber National Mission Force. Parmi les entreprises technologiques participantes figuraient Microsoft, OpenAI, IBM, Palantir, Cisco et Palo Alto Networks.
Le Centre australien de cybersécurité de la Direction australienne des signaux, le Centre national de cybersécurité du Royaume-Uni, le Centre national de cybersécurité de la Nouvelle-Zélande et le Centre canadien pour la cybersécurité ont également observé l’exercice.
Cet article a été mis à jour le 14 juin 2024 pour modifier une description des détails du jeu de table fournie à CyberScoop par la CISA.