L’évolution de la cybersécurité à l’ère de l’IA générative
Ce n’est un secret pour personne : l’intelligence artificielle (IA) révolutionne actuellement tous les secteurs, y compris la cybersécurité. Cependant, cette révolution peut produire des résultats indésirables, tels que le détournement par des modèles d’IA générative sans scrupules et malveillants. Par exemple, lorsque ChatGPT a été introduit pour la première fois en 2022, il a pris d’assaut le monde. Depuis lors, nous avons vu des répliques de ChatGPT introduites sur le dark web pour faciliter une nouvelle ère d’attaques hautement malveillantes et basées sur l’IA.
Aujourd’hui, grâce aux progrès de l’IA générative, les attaques sont déployées en quelques secondes et minutes – et non en jours ou semaines – ce qui dépasse de loin la capacité humaine à détecter et à répondre. En fait, selon Secureworks Counter Threat Unit, les cybercriminels déploient des ransomwares dans la journée qui suit leur infiltration initiale dans une organisation. Ce délai a considérablement diminué en 2023, passant de 4,5 jours en 2022 et de 5,5 jours l’année précédente.
Malheureusement, la majorité des organisations ne sont pas bien placées pour lutter contre ces nouvelles menaces, car elles n’investissent pas dans les solutions de cybersécurité les plus rentables et les plus efficaces. Si l’on considère que les dépenses mondiales en solutions et services de sécurité devraient atteindre 219 milliards de dollars en 2023 – alors qu’au cours du premier trimestre 2023, plus de six millions d’enregistrements de données ont été exposés dans le monde à la suite de violations de données – ces perspectives sont inquiétantes.
Alors, que peuvent faire les entreprises pour mettre fin à ce cycle et tirer le meilleur parti de leurs investissements en cybersécurité ? La moitié de la bataille consiste à comprendre l’IA et la manière dont elle est utilisée par les attaquants et les défenseurs pour augmenter leurs capacités.
Vice-président principal de GSP International chez WWT (World Wide Technology).
Ce que l’IA peut construire – elle peut le détruire
Utilisée à des fins malveillantes, l’IA crée le chaos. Des contrefaçons profondes à l’ingénierie sociale en passant par la création de logiciels malveillants, il existe toutes sortes d’escroqueries que cette technologie peut contribuer à développer.
En ce qui concerne spécifiquement l’IA générative, les modèles Gen-AI malveillants peuvent tirer parti d’une automatisation améliorée des attaques, en particulier lorsque cette technologie rend tout considérablement moins cher et plus rapide. Il existe également de réelles préoccupations en matière d’ingénierie sociale, dans la mesure où l’IA peut contribuer à fournir des e-mails très sophistiqués et d’apparence authentique, destinés à être utilisés dans le cadre d’attaques ciblées telles que le spear phishing ou des campagnes de phishing génériques, notamment des messages vocaux et des messages de chat. Par exemple, de nombreuses tentatives de phishing sont aujourd’hui facilement identifiées par une mauvaise grammaire ou une mauvaise orthographe. L’IA permettra aux modèles Gen-AI malveillants d’examiner et de modifier rapidement les e-mails pour paraître plus crédibles avant de les envoyer. À mesure que cette technologie progresse, les organisations peuvent également s’attendre à voir du contenu vidéo deepfake plus réaliste et de plus haute qualité.
L’IA est également utilisée pour les logiciels malveillants polymorphes. Cela permet le développement de variantes de codes de menace très variables et de packages de logiciels malveillants qui changent constamment pour échapper à la détection par les outils de sécurité actuels. Cela pourrait faire pencher la balance du pouvoir en faveur des attaquants, alors que la défense peine à suivre le rythme de la mise à jour des cas d’utilisation et de la configuration de ses contrôles de sécurité préventifs et de détection.
Combattre le feu par le feu
Résoudre le défi en embauchant des ressources plus qualifiées ou en modifiant les méthodes de travail hybrides ne suffira tout simplement pas à relever ces défis en matière d’IA. En conséquence, les organisations DOIVENT agir. L’IA générative elle-même peut faire partie de la solution, les organisations ont donc BESOIN de ces outils, car il n’existe pas d’autre option pour assurer la sécurité de leurs actifs.
La bonne nouvelle est que les clients peuvent déjà se protéger en travaillant avec les OEM, en tirant parti de l’IA pour améliorer considérablement leur propre visibilité sur les menaces, leurs capacités de détection et de réponse avec une surcharge opérationnelle la plus faible et produire des résultats positifs relativement plus rapidement qu’avant l’IA générative. ère.
Sur le plan de la détection des menaces, les outils Generative AI peuvent comprendre les modèles de comportement des utilisateurs et des objets sur le réseau afin d’identifier les modèles Gen-AI malveillants. Cela peut aider les organisations à faire évoluer les capacités de leurs équipes de sécurité existantes, permettant l’analyse d’énormes quantités de données non structurées en temps réel ou quasi réel afin de détecter et de prédire les menaces potentielles qui dépassent les capacités d’identification des analystes humains. En outre, des outils tels que le partage participatif de renseignements sur les cybermenaces et l’analyse comportementale basée sur l’IA peuvent aider les entreprises à élaborer des stratégies de cyberdéfense proactives plus solides.
Cependant, beaucoup de choses sont plus faciles à dire qu’à faire. L’IA peut être un terme large et, avec le large éventail de solutions d’IA sur le marché, il peut être difficile de savoir quelle solution fera une réelle différence dans l’amélioration de la sécurité. C’est pourquoi il est impératif de recourir à l’exposition et au soutien des partenaires afin que les organisations puissent relever des défis spécifiques et sécuriser leurs actifs numériques de manière évolutive et pérenne.
L’IA générative est là pour rester : comment garantir un avenir alimenté par l’IA ?
Selon SecureWorks Ransomware Evolution Analysis, au cours des deux dernières années, nous avons assisté à une augmentation significative des attaques de ransomwares et à la manifestation du ransomware-as-a-service utilisant davantage de modèles malveillants Gen-AI, pour aider à orchestrer et à tirer profit. d’une fréquence plus élevée d’attaques de ransomware réussies. Modèles d’IA génératifs tels que FraudGPT, WarmGPT et bien d’autres qui sont fréquemment introduits sur le Darkweb.
Ainsi, pour se préparer à l’impact de l’IA générative sur les ransomwares et le paysage de la cybersécurité, les organisations doivent envisager les trois actions clés suivantes :
1. Premièrement, les entreprises doivent considérer l’IA comme un fondement clé de leur stratégie de cybersécurité. Comme souligné ci-dessus, les attaques hautement automatisées et scriptées basées sur l’IA ne peuvent être défendues que par des solutions de gestion des menaces basées sur l’IA afin de réduire le risque et l’impact commercial de ces attaques. Les organisations doivent donc investir et intégrer des solutions de sécurité basées sur l’IA dans leur arsenal de sécurité existant le plus tôt possible.
2. Deuxièmement, l’IA générative en tant que technologie est là pour rester et évoluer. Il est donc important d’évaluer les pratiques de sécurité actuelles de longue date et de perfectionner les ingénieurs sur les solutions basées sur l’IA, si nécessaire. Les humains sont au cœur de l’évolution actuelle de l’IA. Par conséquent, l’embauche ou la formation de professionnels de l’informatique possédant des connaissances en IA permettront de prendre de bonnes décisions et contribueront à garantir que les organisations gardent une longueur d’avance sur la courbe d’adoption de l’IA et sur les risques potentiels.
3. Enfin, les organisations doivent rester ouvertes d’esprit face aux défis de l’IA et repenser les procédures et les processus si nécessaire. Pour ce faire, les organisations doivent régulièrement évaluer la maturité et les lacunes, évaluer les postures de sécurité actuelles, déployer des contrôles et définir les étapes de transition spécifiques qui doivent être prises pour développer une stratégie durable visant à atténuer une nouvelle vague de cybermenaces automatisées et basées sur l’IA et les menaces multiples. des attaques organisées comme des ransomwares et des campagnes de phishing.
Il est donc essentiel que les entreprises apprennent à s’adapter et à investir dans les bonnes solutions de cybersécurité pour répondre aux besoins actuels. En retour, cela aidera les entreprises à mieux s’adapter à un paysage de menaces en évolution rapide. De plus, les entreprises deviendront plus résilientes, productives et compétitives en adoptant cette révolution numérique avec confiance, aujourd’hui comme demain.
Nous avons présenté le meilleur logiciel de cryptage.
Cet article a été produit dans le cadre de la chaîne Expert Insights de TechRadarPro, où nous présentons les esprits les plus brillants et les plus brillants du secteur technologique actuel. Les opinions exprimées ici sont celles de l’auteur et ne sont pas nécessairement celles de TechRadarPro ou Future plc. Si vous souhaitez contribuer, découvrez-en plus ici : https://www.techradar.com/news/submit-your-story-to-techradar-pro