Nous sommes à un moment charnière pour l’IA et la cybersécurité

COMMENTAIRE

La cybersécurité a toujours été un jeu du chat et de la souris entre les « bons » et les « méchants ». Avec la prévalence croissante de l’IA, y compris de nouvelles formes comme IA générativece match d’échecs en cours n’a fait que devenir plus intense et il est de plus en plus clair que l’IA servira de puissante « reine » qui peut faire pencher la partie en faveur de celui qui manie cette pièce le plus efficacement.

Les cyberattaques sont plus sophistiquées que jamais

Les mauvais acteurs n’ont pas perdu de temps à trouver des moyens d’intégrer l’IA générative dans leurs activités. Ils ont pu porter leurs efforts de phishing à un tout autre niveau : les messages arrivent désormais sous la forme d’une prose subtile et fluide, exempte de fautes d’orthographe ou de grammaire.

Un escroc intelligent peut même « inciter » les modèles d’IA générative à adopter un personnage pour rendre l’e-mail de phishing plus convaincant ; par exemple, « Donnez à cet e-mail l’impression qu’il provient du service comptable d’une entreprise Fortune 500 » ou « Imitez le style d’écriture et les manières du dirigeant X ». Avec ce type d’attaque de phishing hautement ciblée et optimisée par l’IA, les acteurs malveillants augmentent leurs chances de voler les identifiants de connexion d’un employé afin que celui-ci puisse accéder à des informations très sensibles, telles que les détails financiers d’une entreprise.

Les acteurs de la menace développent également leurs propres versions malveillantes des outils GPT traditionnels. DarkGPT, par exemple, est capable d’accéder à tous les recoins du Dark Web, ce qui facilite la collecte d’informations et de ressources pouvant être utilisées à des fins néfastes. Il y a aussi FraudeGPT, qui permet aux cybercriminels de créer des codes malveillants et des virus en quelques touches de clavier. Le résultat? Des attaques de ransomware d’une efficacité dévastatrice, plus faciles que jamais à lancer, avec une barrière à l’entrée abaissée.

Malheureusement, aussi longtemps que ces activités illicites donner des résultats, il y aura toujours de mauvais acteurs qui cherchent des moyens créatifs d’utiliser les nouvelles technologies comme l’IA générative pour des raisons sinistres. La bonne nouvelle est que les entreprises peuvent exploiter ces mêmes capacités pour renforcer leur propre posture de sécurité.

Le contexte est la clé

De la même manière que DarkGPT et FraudGPT peuvent diffuser des ressources nuisibles plus rapidement que jamais, un outil GPT déployé de manière responsable peut servir utile des ressources fournissant le contexte nécessaire pour aider à échapper aux attaques potentielles et faciliter une réponse plus efficace à toute menace.

Par exemple, disons qu’un professionnel de la sécurité constate une activité irrégulière ou un comportement anormal dans son environnement, mais qu’il ne sait pas quelles sont les prochaines étapes pour une enquête ou une correction appropriée. L’IA générative peut très rapidement extraire des informations pertinentes, des bonnes pratiques et des actions recommandées de l’intelligence collective du domaine de la sécurité. Disposer de ce contexte complet permet aux praticiens de comprendre rapidement la nature de l’attaque, ainsi que les actions respectives qu’ils doivent entreprendre.

Cette capacité devient particulièrement puissante lorsque les équipes de sécurité peuvent examiner leur environnement de manière globale et analyser tous des données disponibles.

Voir l’image complète

Avant, il était courant d’observer un seul système pour un comportement normal, ou peut-être, plus important encore, anormal comportement. Il est désormais possible d’examiner plusieurs systèmes et configurations, y compris la manière dont ils interagissent. ensemble pour fournir une image beaucoup plus détaillée de ce qui se passe dans l’environnement. En conséquence, les professionnels peuvent avoir une compréhension contextuelle beaucoup plus approfondie de la situation qui se déroule et prendre des décisions meilleures et plus éclairées.

De plus, l’IA générative n’aide pas seulement les professionnels de la sécurité à mieux décisions, cela les aide également à prendre plus rapide décisions avec moins d’effort manuel.

Aujourd’hui, il y a beaucoup de travail à faire pour obtenir une visibilité sur la pile technologique et l’empreinte numérique au sein de l’organisation, rassembler les données et essayer de comprendre ce qui se passe. Compte tenu de l’ampleur et de la complexité des environnements technologiques actuels et des volumes de données impliqués, il a toujours été impossible de fournir une couverture de sécurité globale ou d’identifier chaque angle mort, et c’est en grande partie ce dont profitent les acteurs malveillants.

L’IA générative permet non seulement de regrouper toutes ces données, mais elle les démocratise également. Cela permet aux professionnels de la sécurité d’effectuer des analyses sur d’énormes quantités d’informations en temps quasi réel et d’identifier les menaces potentielles en fonction de changements de paysage sur lesquels ils n’auraient pu être découverts auparavant que par accident. Cela seul peut réduire le temps de présence des mauvais acteurs de quelques jours à quelques minutes, un avantage significatif pour les gentils.

Il y a de quoi être optimiste

À mesure que les automobiles devenaient plus courantes au début des années 1900, il était d’usage que quelqu’un portant un drapeau rouge sur la route devant la voiture pour avertir à l’avance les autres voyageurs de l’arrivée de quelque chose de nouveau et d’inattendu, et pour être conscient de leur environnement.

De toute évidence, la société s’est habituée depuis longtemps à la présence de véhicules sur la route. Ils sont simplement devenus partie intégrante du monde dans lequel nous vivons, même s’ils sont devenus de plus en plus sophistiqués et puissants.

En ce qui concerne l’IA, nous sommes à un moment critique : nous devons procéder de manière réfléchie et prudente. Qu’il s’agisse de voitures ou d’IA, il y a toujours un risque. Mais tout comme nous avons ajouté des fonctionnalités de sécurité améliorées aux véhicules et renforcé les réglementations, nous pouvons faire de même avec l’IA.

En fin de compte, il y a ici des raisons d’être optimiste. Le jeu du chat et de la souris entre hackers et défenseurs se poursuivra, comme toujours. Mais en utilisant l’IA, et l’IA générative en particulier, comme moyen de renforcer leur posture de sécurité globale et de renforcer leurs défenses, les gentils pourront améliorer leur jeu et améliorer leur capacité à garder les méchants à leur place. : en échec.