Les équipes de sécurité sont sceptiques vis-à-vis de l’IA. Les produits de prévention des attaques pourraient changer cela.

Alors que les produits de prévention des attaques basés sur l’IA entrent en phase de commercialisation, la prochaine vague d’intelligence artificielle et d’apprentissage automatique pour la sécurité commence à prendre forme.

Si la technologie tient ses promesses, elle pourrait permettre des gains importants en matière de cyberdéfense et aider à réparer la mauvaise image que l’IA/ML a parmi de nombreux professionnels de la cybersécurité, ont déclaré des experts à Protocol.

Mardi, Darktrace a dévoilé ses premiers produits pour la prévention des cyberattaques basées sur l’IA. La société a déclaré que sa nouvelle famille de produits Prevent sera généralement disponible le 1er août, rejoignant ainsi son portefeuille existant d’offres de détection et de réponse aux attaques.

En utilisant l’IA pour modéliser et émuler des attaques potentielles, « vous venez de créer un ‘méchant numérique' » pour aider à éclairer les efforts de cyberdéfense, a déclaré Mark Driver, vice-président de la recherche chez Gartner.

Pour les défenseurs, le problème actuel est que le volume et la vitesse des attaques entrantes sont tout simplement écrasants, a déclaré Driver. « La seule façon de gérer cela est de commencer à supprimer ces vecteurs d’attaque de manière proactive. »

Et AI/ML est le moyen le plus évolutif de le faire. Il nous reste encore deux ou trois ans avant que la prévention des attaques basée sur l’IA ne devienne un « must-have » pour les entreprises, mais « ça va être absolument énorme à long terme », a déclaré Driver.

Alors que de nombreux professionnels de la sécurité sont devenus insensibles aux affirmations sur ce que l’IA et le ML pourraient faire grâce à des années de battage médiatique, la prévention des attaques est une nouvelle utilisation de l’intelligence artificielle dans la cyberdéfense.

Avec cette approche, « vous utilisez l’IA pour être un peu une boule de cristal », a déclaré Nicole Eagan, directrice de la stratégie et responsable de l’IA chez Darktrace, qui a précédemment été PDG de la société de 2014 à 2020. « C’est très différent de en utilisant l’IA [for] réagir à quelque chose qui se passe. »

Darktrace, qui a été fondée en 2013, a fait ses preuves pour repérer où l’IA/ML pourrait être appliquée à la cybersécurité. L’entreprise a été très tôt à l’idée que les technologies pourraient être utilisées pour améliorer la détection des cyberattaques en passant au crible des tonnes de données. Aujourd’hui, l’IA/ML est omniprésente dans les outils de détection.

Après la détection, Darktrace s’est étendu à l’utilisation de son IA d’auto-apprentissage pour répondre aux activités malveillantes une fois qu’elles ont été détectées.

Désormais, l’entreprise cherche à permettre aux équipes de cybersécurité de devancer les menaces. Darktrace a dévoilé deux nouveaux produits qui constitueront sa famille de produits Prevent, un produit de gestion de surface d’attaque permettant de verrouiller les actifs externes et un produit « de bout en bout » permettant de renforcer l’ensemble des environnements d’un client, tant internes qu’externes, contre les cyberattaques.

Au cœur de la technologie Darktrace Prevent se trouve l’application de l’IA/ML à ce que l’on appelle la « modélisation du chemin d’attaque ». L’idée est d’utiliser l’IA pour cartographier tous les chemins qu’un attaquant pourrait emprunter pour trouver les données les plus précieuses ou sensibles dans les systèmes informatiques d’une organisation.

La technologie peut alors hiérarchiser les voies sur lesquelles l’organisation doit concentrer ses énergies pour bloquer. Il peut également réinjecter ces informations dans le moteur de détection et de réponse Darktrace pour accorder une attention particulière à ces voies critiques, selon la société.

« En durcissant l’environnement, c’est un moyen de dissuasion. Cela rend plus difficile pour un attaquant d’entrer et plus cher », a déclaré Justin Fier, vice-président du risque tactique et de la réponse chez Darktrace. « Cela signifie qu’il y a de fortes chances qu’ils passent à la prochaine cible, car il y a des fruits à portée de main là-bas. »

Émulation d’attaque

Surtout, plutôt que de simplement simuler des attaques, la technologie de Darktrace est capable d’émuler des attaques du monde réel en utilisant les données et les systèmes informatiques réels d’un client, selon la société. C’est important parce que la seule façon de vraiment savoir si les contre-mesures existantes intercepteraient une attaque est d’effectuer un test avec les personnes réelles de l’organisation, a déclaré Eagan.

« L’IA va en fait s’insérer dans un [Microsoft] Équipes ou conversation par e-mail que vous avez avec une partie pertinente. Et cela donnera le ton juste. Vous ne pouvez pas discerner qu’il s’agit d’une attaque », a-t-elle déclaré. « Il utilise l’IA d’auto-apprentissage pour créer une attaque extrêmement efficace contre une personne afin que nous puissions tester les contre-mesures. »

Les premiers clients qui ont utilisé le produit Darktrace Prevent incluent la ville de Las Vegas, qui a déclaré dans un communiqué de presse qu’en plus de la surveillance des cyber-risques, la technologie permet également des tests de pénétration continus. Un certain nombre de clients ont cité la possibilité d’effectuer des tests d’intrusion de manière continue plutôt que les tests de pénétration occasionnels pouvant être exécutés par le personnel comme un cas d’utilisation clé de la technologie Prevent, a déclaré Eagan.

Un autre fournisseur qui a été à l’avant-garde du déploiement de l’IA pour la cyberdéfense est Deep Instinct, qui s’est démarqué par son accent sur la sécurité préventive.

La solution que vous achetez devrait bloquer la prochaine attaque.

Avec un algorithme d’apprentissage en profondeur qui vise à imiter la façon dont un cerveau humain pense, Deep Instinct affirme que sa technologie peut prédire les attaques avant qu’elles ne se produisent, même pour des types d’attaques qui n’ont jamais été vus auparavant, selon la société.

« Nous ne nous appuyons sur aucune analyse humaine pour former la machine sur ce à quoi la prochaine attaque va ressembler », a déclaré Nadav Maman, co-fondateur et CTO de Deep Instinct. « La solution que vous achetez devrait bloquer la prochaine attaque. »

L’utilisation de l’IA / ML pour adopter une position plus proactive en matière de sécurité est « où nous devons voir davantage un changement de l’industrie », a déclaré Lisa O’Connor, directrice générale d’Accenture Security et responsable de la R&D en sécurité chez Accenture Labs.

Les chercheurs d’Accenture Labs, par exemple, ont exploré comment des répliques virtuelles connues sous le nom de « jumeaux numériques » peuvent être utilisées pour révéler des voies d’attaque potentielles. AI/ML peut être utilisé pour interroger le modèle de jumeau numérique qui a été créé ; par exemple, une équipe de sécurité peut demander au modèle de révéler le prochain chemin susceptible d’être utilisé par un attaquant, ou le chemin le plus rapide vers les données les plus critiques du système informatique, a déclaré O’Connor.

« D’un point de vue défensif, il s’agit de savoir où couper l’accès pour avoir le moins d’impact commercial ? » dit-elle.

La technologie des cyberjumeaux numériques d’Accenture est prête à être testée dès maintenant avec les clients, selon l’entreprise. En fin de compte, l’utilisation de l’IA/ML pour la cyberdéfense préventive « pourrait être transformatrice », a déclaré O’Connor. « Je pense absolument que ça vient. »

Épuisement de l’IA

On ne peut cependant ignorer que toute nouvelle vague d’IA/ML pour la sécurité devra faire face à la lassitude que de nombreuses équipes de cybersécurité éprouvent face à l’intelligence artificielle.

« Pour la majorité des professionnels de la sécurité, ils en ont assez de l’entendre », a déclaré Allie Mellen, analyste senior chez Forrester.

Même s’il existe de solides cas d’utilisation de l’IA/ML en matière de sécurité, toute nouvelle avancée dans le domaine sera confrontée à « un peu de scepticisme et de questions quant à savoir si cela va réellement pouvoir ajouter de la valeur », a déclaré Mellen.

Cette vague émergente d’IA/ML préventive pour la sécurité pourrait-elle faire une différence dans la perception ? Mellen a déclaré que cela dépendra de la façon dont les fabricants d’outils de sécurité décriront ce que leur technologie peut faire et s’ils tiennent leurs promesses.

« Je pense que certains fournisseurs sont capables de communiquer ce que l’apprentissage automatique fait pour eux d’une manière digne de confiance », a-t-elle déclaré. En règle générale, cela implique de partager certains détails techniques et d’expliquer ce qui se passe réellement.

« Sans cette transparence et cette clarté, il peut être très difficile pour les praticiens de savoir si l’apprentissage automatique est réellement utilisé ou non, ou s’il est utilisé de manière fructueuse », a déclaré Mellen.

Le pilote de Gartner a convenu que l’IA / ML pour la sécurité avait souffert d’être surmédiatisée et promue comme une solution miracle. (Bien sûr, ce n’est pas quelque chose d’unique au marché de la cybersécurité, a-t-il noté.)

Mais si les équipes de sécurité veulent pouvoir adopter une position plus préventive, il n’y a aucun moyen de le faire efficacement sans utiliser ces technologies, a déclaré Driver. Bien qu’une grande partie de la modélisation des attaques soit disponible aujourd’hui, cela peut souvent prendre des semaines pour être assemblé manuellement, a-t-il déclaré.

« L’IA va nous le donner beaucoup, beaucoup plus rapidement et beaucoup plus précis d’un point de vue chirurgical », a déclaré Driver.

Et il est probable qu’avec le temps, les équipes de sécurité commenceront à voir qu’il est « bien plus utile » de gérer les événements avant qu’ils ne se produisent, plutôt qu’après, a-t-il déclaré. Driver s’attend à ce que les outils de sécurité basés sur l’IA pour la prévention des cyberattaques deviennent un « must-have » pour les entreprises d’ici trois à cinq ans.

Avec autant de professionnels de la cybersécurité « épuisés et fatigués de lutter contre les incendies », l’arrivée de tels outils pourrait faire une différence tangible pour les équipes de sécurité, a déclaré Eagan.

Et peut-être pourraient-ils même aider à améliorer l’image de l’IA/ML dans la communauté de la cybersécurité.

« Je pense que cela a la promesse de changer notre façon de voir la cybersécurité », a déclaré Eagan, « et, espérons-le, de la rendre beaucoup moins stressante pour les équipes de sécurité qui vivent dans les tranchées. »

Remarque : Protocol appartient à Axel Springer, dans lequel KKR détient une participation minoritaire importante ; KKR a investi dans Darktrace.