Comment l’IA façonne la course aux armements dans le domaine de la cybersécurité

L’entreprise moyenne reçoit 10 000 alertes chaque jour des différents outils logiciels qu’elle utilise pour surveiller les intrus, les logiciels malveillants et autres menaces. Le personnel de la cybersécurité se retrouve souvent submergé de données qu’il doit trier pour gérer ses cyberdéfense.

Les enjeux sont élevés. Les cyberattaques se multiplient et affectent des milliers d’organisations et des millions de personnes aux États-Unis seulement.

Ces défis soulignent la nécessité de trouver de meilleurs moyens d’endiguer la vague de cyber-violations. L’intelligence artificielle est particulièrement bien adaptée pour trouver des modèles dans d’énormes quantités de données. En tant que chercheur qui étudie l’IA et la cybersécurité, je trouve que l’IA est en train de devenir un outil indispensable dans la boîte à outils de la cybersécurité.

Aider les humains

L’IA renforce la cybersécurité de deux manières principales. Premièrement, l’IA peut aider à automatiser de nombreuses tâches qu’un analyste humain gèrerait souvent manuellement. Celles-ci incluent la détection automatique des postes de travail, des serveurs, des référentiels de code et d’autres matériels et logiciels inconnus sur un réseau. Il peut également déterminer la meilleure façon d’allouer les défenses de sécurité. Ce sont des tâches gourmandes en données, et l’IA a le potentiel de passer au crible des téraoctets de données beaucoup plus efficacement qu’un humain ne pourrait jamais le faire.

Deuxièmement, l’IA peut aider à détecter des modèles dans de grandes quantités de données que les analystes humains ne peuvent pas voir. Par exemple, l’IA pourrait détecter les principaux modèles linguistiques des pirates publiant des menaces émergentes sur le dark web et alerter les analystes.

Plus précisément, les analyses basées sur l’IA peuvent aider à discerner le jargon et les mots de code que les pirates informatiques développent pour faire référence à leurs nouveaux outils, techniques et procédures. Un exemple utilise le nom Mirai pour signifier botnet. Les pirates ont développé le terme pour cacher le sujet du botnet aux professionnels de l’application de la loi et du renseignement sur les cybermenaces.

L’IA a déjà connu quelques premiers succès dans le domaine de la cybersécurité. De plus en plus, des entreprises telles que FireEye, Microsoft et Google développent des approches d’IA innovantes pour détecter les logiciels malveillants, contrecarrer les campagnes de phishing et surveiller la propagation de la désinformation. Un succès notable est le programme Cyber ​​Signals de Microsoft qui utilise l’IA pour analyser 24 billions de signaux de sécurité, 40 groupes d’États-nations et 140 groupes de pirates informatiques pour produire des renseignements sur les cybermenaces pour les cadres de niveau C.

Les agences de financement fédérales telles que le ministère de la Défense et la National Science Foundation reconnaissent le potentiel de l’IA pour la cybersécurité et ont investi des dizaines de millions de dollars pour développer des outils d’IA avancés permettant d’extraire des informations à partir de données générées à partir du dark web et de plates-formes logicielles open source. tels que GitHub, un référentiel mondial de code de développement logiciel où les pirates peuvent également partager du code.

Inconvénients de l’IA

Malgré les avantages significatifs de l’IA pour la cybersécurité, les professionnels de la cybersécurité ont des questions et des inquiétudes quant au rôle des IA. Les entreprises pourraient envisager de remplacer leurs analystes humains par des systèmes d’IA, mais pourraient s’inquiéter de la confiance qu’elles peuvent accorder aux systèmes automatisés. Il n’est pas non plus clair si et comment les problèmes bien documentés d’IA de partialité, d’équité, de transparence et d’éthique émergeront dans les systèmes de cybersécurité basés sur l’IA.

De plus, l’IA est utile non seulement pour les professionnels de la cybersécurité qui tentent de renverser la vapeur contre les cyberattaques, mais aussi pour les pirates malveillants. Les attaquants utilisent des méthodes telles que l’apprentissage par renforcement et les réseaux antagonistes génératifs, qui génèrent de nouveaux contenus ou logiciels basés sur des exemples limités, pour produire de nouveaux types de cyberattaques qui peuvent échapper aux cyberdéfense.

Les chercheurs et les professionnels de la cybersécurité apprennent encore toutes les façons dont les pirates malveillants utilisent l’IA.

La route devant

À l’avenir, il existe une marge de croissance importante pour l’IA dans la cybersécurité. En particulier, les prédictions que font les systèmes d’IA sur la base des modèles qu’ils identifient aideront les analystes à répondre aux menaces émergentes. L’IA est un outil intrigant qui pourrait aider à endiguer la vague de cyberattaques et, avec une culture minutieuse, pourrait devenir un outil indispensable pour la prochaine génération de professionnels de la cybersécurité.

Cependant, le rythme actuel de l’innovation dans le domaine de l’IA indique que des cyber-batailles entièrement automatisées entre les attaquants et les défenseurs de l’IA seront probablement dans des années.

[Climate change, AI, vaccines, black holes and much more. Get The Conversations best science and health coverage.]