La cybersécurité à l’ère de l’IA
L’intelligence artificielle (IA) n’est certainement pas un concept nouveau, mais avec le lancement public de ChatGPT et la montée en puissance des modèles d’IA générative, elle a pris un nouvel élan vertigineux. L’IA transforme le monde de la cybersécurité et fait évoluer le paysage des menaces à un rythme remarquable. Barracuda a organisé une table ronde à Las Vegas cette semaine lors de Black Hat.
La session, intitulée « La cybersécurité à l’ère de l’IA », a été modérée par Christine Elswick, vice-présidente exécutive et responsable des pratiques de cybersécurité chez Highwire PR, et comprenait les idées d’un panel estimé composé du directeur technique de Barracuda, Fleming Shi, et du fondateur d’OpenPolicy, le Dr Amit Elazari, JSD. , président-directeur général de Cyber Threat Alliance J. Michael Daniel, directeur du bureau du RSSI d’Amazon Web Services (AWS) Mark Ryland et vice-président technique GTM de Splunk, Patrick Coughlin.
Transformer le paysage des menaces
L’émergence de l’IA générative permet aux attaquants de frapper plus rapidement et avec une meilleure précision. En minimisant les fautes d’orthographe et les problèmes de grammaire qui étaient autrefois des signaux d’attaques de phishing, cela les rend plus évasifs et convaincants. En particulier, des secteurs critiques comme la santé, l’éducation et les administrations locales ont signalé une augmentation significative des attaques au cours des deux dernières années.
L’IA générative est la nouveauté. Il s’agit d’un sous-ensemble de l’apprentissage automatique, de l’apprentissage profond et de l’intelligence artificielle globale, a expliqué Shi. Lorsque nous commençons à examiner les armes chaque jour, les armes numériques ne sont pas très différentes au moment où elles sont réellement créées, car les humains peuvent toujours fabriquer des armes très performantes et très efficaces.
Shi a ajouté : Cependant, la vitesse et le volume que vous obtiendrez en utilisant l’IA générative, car elle est capable de générer du contenu très rapidement en fonction d’une certaine direction, de certaines invites, et sera capable de gérer et de livrer des armes numériques beaucoup plus rapidement.
De plus, les attaquants ont désormais la possibilité d’utiliser les capacités d’écriture de code de l’IA générative pour écrire du code malveillant, exploitant ainsi les vulnérabilités logicielles. La compétence requise pour lancer une attaque de ransomware consiste désormais simplement à créer une invite malveillante et à accéder aux outils de ransomware-as-a-service. Cela a donné lieu à une toute nouvelle vague d’attaques d’une ampleur sans précédent.
En réfléchissant à une perspective historique, Coughlin a noté que l’essor de l’IA dans le domaine de la cybersécurité peut être comparé à l’évolution vers les appareils mobiles et le cloud computing. Ces ruptures technologiques ont eu plusieurs impacts clés. Ils ont élargi la surface d’attaque en introduisant de nouveaux ensembles de données critiques telles que les données d’entraînement et ont créé de nouvelles façons de perdre des données. Comme pour le passage au cloud, de nouvelles exigences de conformité se profilent à l’horizon, même si les attaquants n’ont bien sûr pas à s’en soucier.
Le consensus général des experts du panel est que l’intégration des nouvelles technologies peut sembler écrasante, mais nous devons nous rappeler que nous sommes déjà venus ici. Il est essentiel de procéder avec prudence, de prêter une attention particulière aux nouvelles réglementations et d’éviter les portes à sens unique lors de la conception des systèmes.
L’importance d’obtenir une visibilité totale sur les différents systèmes et outils est une leçon qui aurait dû être tirée des expériences passées.
Renforcer et compliquer la sécurité en même temps
L’équilibre entre attaque et défense dans l’IA est un aspect crucial du paysage actuel de la cybersécurité.
L’IA pourrait être un atout important, automatisant de nombreux processus et agissant comme un assistant de décision pour les individus d’un centre d’opérations de sécurité (SOC). La capacité de l’IA à effectuer le travail de tri pourrait être révolutionnaire.
Cependant, il existe également des défis, tels que l’IA générative qui oblige les entreprises à durcir et à fermer les API, réduisant ainsi la disponibilité des informations pour les défenseurs. La sécurité de l’IA elle-même est encore plus complexe, car il est difficile de comprendre comment l’IA prend une décision, ce qui rend difficile de déterminer si elle a été manipulée.
Mais Ryland a souligné que les opportunités pour les équipes de sécurité sont doubles : la prévention, en utilisant l’IA pour accélérer la prise de décision et automatiser les tâches, et la défense, car les analyses basées sur l’IA peuvent accélérer la détection des menaces.
Le panel a souligné que l’IA doit être traitée comme une augmentation plutôt que comme un remplacement de l’intelligence humaine.
Les outils dont nous parlons ici, et ce sont des outils qui ont un énorme potentiel pour rendre la pratique de la cybersécurité beaucoup plus satisfaisante, a proclamé Daniel. Cela peut éliminer la fatigue d’alerte de l’équation et permettre aux humains de se concentrer plus facilement sur les choses réellement intéressantes.
Passer au crible le bruit (IA générative)
Il y a eu une explosion de solutions de cybersécurité proclamant leur adoption de l’IA, et les entreprises doivent s’affranchir du battage médiatique pour comprendre quels fournisseurs et quels outils exploitent véritablement l’IA générative et comment commencer à en tirer parti. La détection des menaces basée sur l’IA est essentielle pour déjouer les attaques ciblées, et les RSSI doivent redoubler de résilience et penser de manière globale pour sécuriser leurs organisations.
Coughlin a souligné : « Aujourd’hui, nous avons beaucoup parlé de la résilience numérique et de l’importance de renforcer la résilience dans votre entreprise numérique. Je pense qu’à mesure que les systèmes d’IA entrent en production et qu’ils alimentent de plus en plus d’applications destinées aux clients dans le Fortune 500, il deviendra de plus en plus essentiel de briser les silos entre les équipes internes afin d’offrir plus de visibilité, plus de processus. contrôles et plus de clarté pour la C-suite.
Quant à l’avenir de l’IA dans le domaine de la cybersécurité, les perspectives sont généralement encourageantes, mais il est nécessaire de garder une longueur d’avance. Le développement des technologies d’IA, en particulier des grands modèles linguistiques, a poussé les discussions sur l’IA dans l’espace politique et réglementaire. Il s’agit d’un impératif de sécurité nationale auquel il faut répondre. Les décideurs politiques ont été hésitants, mais cela est en train de changer, avec un accent renouvelé sur la connexion des entreprises innovantes, des startups et des sociétés d’investissement à grande échelle pour continuer à créer des outils de pointe tout en étant pleinement conscients des enjeux et des politiques.
Gardez une longueur d’avance sur la courbe de l’IA
Alors, l’IA et les outils d’IA générative amélioreront-ils la prochaine génération de solutions de cybersécurité et donneront plus de pouvoir aux défenseurs, ou constituent-ils une menace existentielle qui déplace irrévocablement la bataille en faveur des acteurs de la menace ? Ou est-ce quelque part entre les deux ?
Le Dr Elazari s’est déclarée pleine d’espoir et optimiste quant à l’avenir de la cybersécurité grâce à l’IA. L’IA générative a réellement le pouvoir de faire trois choses, qui aboutissent au processus de démocratisation : accroître l’accès à l’information, qu’il s’agisse de connaissances textuelles ou d’informations sur les cybermenaces ; augmenter la convivialité, donc comment ces informations vous sont présentées, comment elles sont organisées de manière à vous permettre réellement d’interagir avec elles ou s’il s’agit d’une expérience qui permet au public de l’information de l’exploiter ; et augmenter l’efficience et l’efficacité de ce que vous pouvez faire avec ces informations.
La table ronde « La cybersécurité à l’ère de l’IA » a fourni un aperçu complet et perspicace de la relation complexe entre l’IA et la cybersécurité. Alors que l’IA continue d’évoluer, les enseignements tirés de cette discussion offrent des conseils précieux aux particuliers, aux entreprises et aux gouvernements qui cherchent à naviguer dans le territoire inexploré de la cybersécurité basée sur l’IA. En mettant l’accent sur la collaboration, l’innovation et la mise en œuvre responsable, un avenir sûr et prometteur semble réalisable.
Suivez-moi sur LinkedIn. Vérifier Mon site internet.