La NSF finance un institut de recherche sur la cybersécurité basée sur l’IA
WEST LAFAYETTE, Indiana — Logiciels malveillants. Rançongiciels. Exploits du jour zéro. Il n’y a pas de repos en matière de protection contre les cyberattaques. Et dans un monde de plus en plus connecté, avec l’expansion des espaces cyber et cyber-physiques et l’accès à des outils comme l’intelligence artificielle, les attaques vont probablement devenir plus diversifiées et sophistiquées.
C’est pourquoi un groupe des meilleurs informaticiens et ingénieurs du paysdirigé par UC Santa Barbara avec des contributions majeures de Purdue et UC Berkeley, se sont réunis pour former le Parrainé par la National Science Foundation Institute for Agent-based Cyber Threat Intelligence and Operation (ACTION). Ce projet de 20 millions de dollars sur cinq ans est l’un des sept instituts nationaux de recherche sur l’intelligence artificielle nouvellement financés. ACTION apporte l’apprentissage continu – et maintenant, le raisonnement – de l’IA à la conscience constante de la situation et aux actions qui sont fondamentales pour la cybersécurité.
« L’IA est désormais utilisée régulièrement pour des choses comme l’analyse des logiciels malveillants afin d’identifier les documents malveillants et les pages Web malveillantes », a déclaré le professeur d’informatique de l’UC Santa Barbara et expert en cybersécurité. Jean Vigna, qui dirigera le projet. « Ce que nous n’avons pas, ce sont des entités capables de raisonner. C’est l’occasion d’associer l’intelligence artificielle et la sécurité d’une manière inédite. »
« Les instituts nationaux de recherche sur l’IA sont un élément essentiel de l’écosystème de l’innovation, de l’infrastructure, de la technologie, de l’éducation et des partenariats en matière d’IA de notre pays », a déclaré le directeur de la NSF, Sethuraman Panchanathan. « Ces instituts sont à l’origine de découvertes qui permettront à notre pays d’être à l’avant-garde de la révolution mondiale de l’IA. »
Dongyan Xuprofesseur d’informatique Samuel Conte et directeur de CERIAS, le Centre d’éducation et de recherche sur l’assurance et la sécurité de l’information, est le chercheur principal de Purdue et le responsable de la recherche inspirée par l’utilisation de l’Institut ACTION. Lui et cinq autres membres du corps professoral de Purdue – Elisa Bertino, Z. Berkay Celik, Ninghui Li, Yung-Hsiang Lu et Ming Yin – rejoindra les collaborateurs d’ACTION de l’Université de Californie à Santa Barbara ; UC Berkeley; Institut de technologie de la Géorgie; l’Université de Chicago; Université de Washington ; Université de l’Illinois à Chicago ; Université Rutgers ; Université d’État de Norfolk ; Université de l’Illinois et Université de Virginie.
L’Université Purdue sera l’un des principaux pôles d’ACTION pour la recherche, l’éducation, le développement de la main-d’œuvre et le transfert de technologie, tirant parti des programmes et initiatives du CERIAS pour impliquer les professeurs et les étudiants, ainsi que les partenaires industriels et gouvernementaux. L’équipe de Purdue apportera son expertise dans des domaines clés tels que la sécurité cyber-physique ; découverte, intégration et raisonnement des connaissances cyber-physiques ; et collaboration homme-agent IA tout au long du cycle de vie de la cyberdéfense de bout en bout.
« Je suis ravie de l’implication de l’Université Purdue dans le nouvel institut NSF AI, où notre équipe d’experts en cybersécurité et en IA travaillera côte à côte pour réaliser des avancées révolutionnaires dans ce domaine critique et en évolution rapide », a déclaré Karen Plaut, vice-exécutive de Purdue. président pour la recherche. « Nous sommes ravis de faire partie de cet effort de transformation, et le moment ne pourrait pas être meilleur avec notre récente annonce de l’initiative Purdue Computes. »
IA inspirée par la sécurité et sécurité renforcée par l’IA
Voici un scénario possible : les cybercriminels accèdent à un logiciel utilisé par une ville intelligente fictive, une municipalité dont les infrastructures de distribution d’eau et d’électricité sont automatisées et intégrées. Ils introduisent une vulnérabilité logicielle à la fois complexe et trop évasive pour déclencher des cyber-alarmes ou des alarmes physiques. À partir de là, ils utilisent cette vulnérabilité pour mener une attaque de la chaîne d’approvisionnement qui compromet progressivement des parties du système cyber-physique d’une manière qui peut sembler être des problèmes et des connexions inhabituelles, mais rien que le système de détection des menaces n’a été formé pour identifier. Finalement, ils ont accès à des systèmes de contrôle qui leur permettent de couper l’eau et l’électricité, paralysant ainsi la ville. Ils font tout cela par des actions apparemment insignifiantes via des connexions cryptées qui ne sont pas remarquées par les systèmes de détection d’intrusion.
Ce n’est pas une situation tout à fait hypothétique. En fait, une campagne de piratage similaire a été orchestrée en 2021 qui a compromis plusieurs agences gouvernementales américaines en violant le logiciel de surveillance des applications créé par le fournisseur SolarWinds. Ce type d’attaque, selon les chercheurs, est la raison pour laquelle un type plus sophistiqué de cybersécurité alimenté par l’IA est nécessaire.
« Il y a ce concept d’une ‘pile’ d’IA », a déclaré Vigna. « Imaginez plusieurs couches de fonctionnalités qui prennent en charge l’IA de différentes manières, telles que le raisonnement, l’apprentissage, la planification stratégique et l’interaction homme-IA. » Cette pile permettra la création d’« agents » autonomes et intelligents qui seront capables non seulement d’identifier une attaque potentielle, mais aussi l’attaquant et également de monter une réponse et de procéder à une récupération.
Les collaborateurs d’ACTION commenceront par mener des recherches selon quatre axes principaux : l’apprentissage et le raisonnement avec la connaissance du domaine, l’interaction homme-agent, la collaboration multi-agents, et le jeu stratégique et la planification tactique. Ces axes de recherche agissent comme la base de connaissances qui peuvent se développer pour gérer de grands ensembles de données, tout en extrayant la sémantique et en promouvant l’inférence et le raisonnement, dans des scénarios potentiellement contradictoires et combatifs.
Pendant ce temps, la recherche sur l’IA informera et s’inspirera du cycle de vie de la cyberdéfense de bout en bout. Les collaborateurs d’ACTION développeront et personnaliseront des agents intelligents équipés de la pile d’IA pour effectuer quatre tâches principales dans le cycle de vie de la cyberdéfense : évaluation des menaces et des vulnérabilités, détection des attaques, attribution des attaques, réponse aux attaques et récupération. Tout en accomplissant ces tâches, les agents acquerront de nouvelles connaissances et expériences qui amélioreront leur efficacité et leur efficience au fil du temps.
« Aujourd’hui, tout système doté d’un composant cybernétique, tel qu’un processeur ou un capteur, peut faire face à des menaces de cybersécurité », a déclaré Xu. « Les adversaires peuvent inspecter, infiltrer et frapper en quelques secondes. L’approche d’agent intelligent d’ACTION en matière de cybersécurité de nouvelle génération offre une opportunité prometteuse pour dépasser, accélérer et déjouer les adversaires. »
En plus de développer des technologies d’intelligence artificielle et de cybersécurité de nouvelle génération, ACTION mettra en œuvre des programmes d’apprentissage et de formation pour impliquer les étudiants de la maternelle à la 12e année, les étudiants de premier cycle et des cycles supérieurs, les chercheurs postdoctoraux et les professionnels en activité, en mettant l’accent sur la sensibilisation des communautés sous-représentées et l’objectif de créer un vivier de talents « cybersécurité + IA ».
À propos de l’Université Purdue
L’Université Purdue est une institution de recherche publique de premier plan qui développe des solutions pratiques aux défis les plus difficiles d’aujourd’hui. Classée au cours de chacune des cinq dernières années comme l’une des 10 universités les plus innovantes des États-Unis par US News & World Report, Purdue propose des recherches révolutionnaires et des découvertes hors du commun. Engagé dans l’apprentissage pratique et en ligne, dans le monde réel, Purdue offre une éducation transformatrice à tous. Engagé en faveur de l’abordabilité et de l’accessibilité, Purdue a gelé les frais de scolarité et la plupart des frais aux niveaux de 2012-13, permettant à plus d’étudiants que jamais pour obtenir son diplôme sans dette. Voyez comment Purdue ne s’arrête jamais dans la poursuite persistante du prochain pas de géant àhttps://stories.purdue.edu
Contact média : Rhianna Wisniewski, rmwisnie@purdue.edu
Source: Dongyan Xu, dxu@purdue.edu