Comment l’IA défie la cybersécurité

Les menaces de cybersécurité à l’ère de l’IA nécessitent un examen plus approfondi. Dans cet article, nous en analysons trois. Le jailbreak d’outils d’IA générative comme ChatGPT peut les transformer en assistants pour les cybercriminels. Les outils d’IA invasifs comme WormGPT facilitent les attaques de phishing. Les grands modèles de langage peuvent produire du code malveillant évoluant de manière dynamique, ce qui rend la détection plus difficile.

Les cybermenaces sont partout. Nous entendons régulièrement parler de personnes qui perdent de l’argent parce qu’elles ont partagé leurs OTP et d’autres informations sensibles avec de mauvais acteurs. Les comptes de réseaux sociaux sont régulièrement compromis. Et même les infrastructures critiques subissent des pannes et des perturbations en raison des attaques incessantes de groupes néfastes. Le paysage des menaces est donc vaste et la lutte contre la cybercriminalité est extrêmement difficile.

Une longue liste de vulnérabilités, avec plus de 78 000 exploits connus, ne constitue cependant pas tout ce qu’il y a à la cybercriminalité. L’IA étant désormais un outil puissant, polyvalent et accessible, l’ensemble du paradigme de la cybersécurité pourrait connaître une refonte radicale. En effet, cela modifie simultanément la nature des menaces existantes, tout en créant de nouveaux défis auxquels nous ne savons pas encore comment répondre.

Pour comprendre comment l’IA modifie la nature des menaces existantes, nous devons d’abord comprendre les formes d’attaques les plus courantes auxquelles les gens sont confrontés. Celles-ci vont du phishing, des attaques d’ingénierie sociale, des DDoS, de la compromission de la messagerie professionnelle et des ransomwares, entre autres.

Aides à la cybercriminalité prêtes à l’emploi

L’IA facilite la commission de tous ces crimes grâce à l’automatisation, réduisant les barrières à l’entrée et permettant aux mêmes attaques de se produire à une échelle beaucoup plus grande. De plus, cela crée des formes entièrement nouvelles de menaces contre lesquelles nos cyberdéfenses modernes sont totalement incapables de se défendre.

Examinons quelques attaques de phishing récentes. Le phishing consiste à gagner la confiance de la victime en se faisant passer pour quelqu’un que vous n’êtes pas, puis à exploiter cette confiance pour commettre votre méfait. Traditionnellement, pour réaliser de telles attaques, il fallait une certaine maîtrise du langage et une certaine familiarité avec le lexique d’un secteur. L’IA générative, cependant, se dispense rapidement de ces besoins grâce à sa puissance de synthèse linguistique.

Par exemple, des outils comme WormGPT, qui est un vaste modèle de langage formé sur les données liées aux logiciels malveillants, rendent les attaques de phishing beaucoup plus faciles à mener car ils savent quel type de communication semble convaincant pour la victime. Cela le rend très utile pour les pirates qui s’en prennent à une victime particulière, ainsi que pour ceux qui mènent des campagnes de phishing massives, en organisant différents messages pour différents publics.

La société SlashNext, qui a été la première à intercepter WormGPT, l’a également trouvé très efficace dans les attaques de compromission de courrier électronique professionnel, car il pouvait générer des courriers électroniques convaincants qui faisaient pression sur un responsable de compte pour qu’il paie des factures frauduleuses.

Au-delà de ces attaques ciblées qui utilisent un seul vecteur comme le phishing ou la compromission de la messagerie professionnelle, il existe désormais des outils d’IA à usage général qui peuvent vous aider dans presque tous les types de cybercriminalité. Des outils comme FraudGPT, qui coûtent entre 200 et 1 700 dollars par mois, apparaissent désormais comme des solutions tout-en-un, proposant des didacticiels sur la façon de pirater des machines et des réseaux, d’identifier des sites Web vulnérables, de créer des logiciels malveillants, de donner des instructions étape par étape, etc. En outre, ils circulent sur les réseaux grand public comme Telegram, montrant à quel point ces menaces sont proches de nos côtes.

Rendre ChatGPT devenu voyou

Au-delà de ces outils spécialisés créés par des développeurs black-hat, un autre type de menace dont nous devons être conscients est l’utilisation abusive des plates-formes existantes à des fins malveillantes. Le jailbreak de l’IA, quelque chose dont nous entendons rarement parler dans la couverture médiatique générale de l’IA, est un menace très puissante et cela implique de transmettre des invites textuelles à des outils comme ChatGPT ou Googles Bard afin que leurs garanties éthiques soient brisées et qu’ils se libèrent de toute restriction. Grâce à cela, les chatbots IA se transforment en puissants assistants pour les entreprises criminelles.

Cette militarisation des outils d’IA à usage général, bien qu’il soit crucial d’éviter, s’est avérée extrêmement difficile à gérer. Un article récent de l’Université Carnegie Mellon discutait d’un jailbreak universel pour tous les modèles d’IA et pourrait générer un nombre presque infini d’invites pour briser les garanties de l’IA.

De plus, les développeurs et les adeptes de l’IA tentent régulièrement de trouver des moyens de pirater les systèmes d’IA et y parviennent. En effet, à l’heure actuelle, il n’existe aucune solution universelle connue pour le jailbreak et les gouvernements et les entreprises devraient s’en inquiéter à mesure que l’adoption massive de l’IA continue de décoller.

Les logiciels malveillants générés par l’IA arrivent

Une autre voie de cybercriminalité grâce à l’IA est la synthèse du code d’exécution.

La synthèse de code d’exécution ou création de code dynamique consiste à générer une nouvelle forme de malware à chaque fois que le code est exécuté. Cela diffère des formes traditionnelles de malware car, dans les configurations traditionnelles, une seule variante est créée lors de l’exécution du code et, par conséquent, elle est plus facile à détecter et à contrôler.

HYAS Labs a créé un malware polymorphe appelé BlackMamba en utilisant des modèles de langage étendus, comme preuve de concept, qui fonctionnait comme un outil d’enregistrement de frappe capable de collecter des informations sensibles telles que des noms d’utilisateur, des mots de passe et des numéros de carte de crédit.

Il prenait une forme différente à chaque fois que le code était exécuté et était ainsi capable de contourner tout système automatisé de détection de sécurité sans déclencher de signal d’alarme. Il a également montré clairement que du code inoffensif peut être converti dynamiquement au moment de l’exécution en programmes malveillants et constitue une nouvelle forme de menace à laquelle nous devons apprendre à réagir.

C’est l’heure du boom du crime et de la lutte contre le crime

Dans l’ensemble, tout cela démontre qu’à mesure que l’IA générative occupe une place de plus en plus importante dans nos vies, notre compréhension de la cybersécurité devra également être radicalement repensée. Les déclarations faites par le PDG d’Anthropic, Dario Amodeia, lors de l’audition du Sénat américain sur l’IA, en sont le meilleur exemple.

Amodei a déclaré qu’à moyen terme, il existe des menaces à la fois imminentes et graves. IBM a estimé que le temps nécessaire pour déployer une attaque de ransomware a diminué de 94 % en 2 ans, et une étude de marché indique que le marché mondial de la cybersécurité de l’IA passera de 8,8 milliards de dollars en 2020 à 38,2 milliards de dollars en 2026.

Ce que ces deux chiffres montrent clairement, c’est que les industries jumelles de la cybercriminalité et de la cybersécurité contre celle-ci sont sur le point de connaître un essor monumental à l’ère de l’IA.

Srimant Mishra est un ingénieur en informatique de l’université VIT de Vellore, avec un profond intérêt pour le domaine de l’intelligence artificielle. Il poursuit actuellement des études de droit à l’Université Utkal de Bhubaneshwar. Les opinions sont personnelles et ne représentent pas la position de cette publication.