La génération AI bouleverse le paysage de la cybersécurité et le rôle du RSSI

Subha Tatavarti, directeur technique de Wipro (à gauche) et Itai Greenberg, directeur de la stratégie de Check Point, parlent de cybersécurité chez Fortune Brainstorm AI. Duy Ho pour la Fortune

Tout comme le cycle de la cybersécurité, chaque nouvelle technologie crée à la fois un nouveau paysage de menaces et des outils pour s’en défendre. L’IA générative ne fait pas exception.

La génération AI rend les choses plus faciles à la fois pour les défenseurs et les attaquants, a déclaré Subha Tatavarti, directeur de la technologie chez Wipro, lors d’une table ronde axée sur les menaces de cybersécurité à l’ère de l’IA lors de la conférence Fortune Brainstorm AI à San Francisco cette semaine.

L’IA générative rend les attaques de phishing plus convaincantes, et les grands modèles de langage en particulier ont créé une surface d’attaque massivement exposée. Dans le même temps, des acteurs malveillants vendent désormais sur le dark web des chatbots de type ChatGPT ciblés par les pirates informatiques, qui lanceront des attaques vectorielles aussi rapidement que le produit OpenAI répondra aux questions ou résumera le texte. Mais ce qui est particulièrement problématique en ce qui concerne l’impact de l’IA générative sur la cybersécurité, c’est la rapidité avec laquelle elle arrive sur le marché (y compris le marché noir). Les entreprises de tous les secteurs s’efforcent désormais non seulement de comprendre les nouvelles attaques basées sur l’IA générative et de créer de nouveaux outils de défense, mais également de relever des défis en évolution rapide concernant l’utilisation interne de ces outils, les politiques et la conformité. En conséquence, le rôle du RSSI (directeur de la sécurité de l’information) est bouleversé.

Je compatis avec les RSSI d’aujourd’hui, a déclaré Tatavarti, ajoutant qu’il sera essentiel pour les RSSI d’innover rapidement, notamment en faisant leur propre innovation au-delà de ce qui est disponible sur le marché.

Tatavarti s’est entretenu aux côtés de Itai Greenberg, directeur de la stratégie de Check Point, et de Rodrigo Madanes, leader mondial de l’innovation en IA chez EY, lors d’une séance stratégique explorant l’impact de l’IA sur le paysage en évolution de la cybersécurité. Au milieu des discussions sur les nouveaux types de menaces rendues possibles par l’IA générative, l’impact sur le rôle du RSSI a été un point de contact clair qui a un impact énorme.

Le rôle du RSSI est incroyablement difficile et évolue rapidement, a déclaré Madanes. Je pense qu’à l’heure actuelle, ce qui se passe, c’est qu’ils appliquent les politiques existantes en matière de données et de protection, mais à mesure qu’ils assument la responsabilité de protéger l’injection contre les interfaces conversationnelles qui sont déployées, cela nécessite un ensemble de compétences différent, un un ensemble différent d’outils qui n’ont même pas été développés, qui sont pour la plupart développés en interne à l’heure actuelle.

De même, Greenberg a déclaré que les RSSI devraient réfléchir aux outils qu’ils utilisent et aux données qu’ils téléchargent vers ces outils, en particulier les outils publics. Cela implique également de définir soigneusement des garde-fous, notamment pour déterminer qui peut supprimer les données de ces systèmes.

Pour beaucoup, cela ressemble à un type de rôle différent de celui des RSSI d’hier, qui se limitaient davantage aux aspects techniques, tels que l’externalisation informatique, plutôt que de prendre des décisions politiques majeures. Ce point a inspiré une discussion animée entre les participants, qui ont commenté les risques croissants liés au métier de RSSI et les spéculations selon lesquelles le rôle pourrait en fait être divisé en deux, un rôle plus opérationnel et un autre plus axé sur la gouvernance.

Soulignant le fait que les RSSI sont désormais tenus personnellement responsables pénalement de la manière dont ils traitent les attaques contre leurs entreprises, un participant, Ross Camp de la société de sécurité et de protection des données Commvault, a demandé si nous devrions nous inquiéter d’une pénurie de RSSI dans un avenir proche. . Le mois dernier, l’ancien RSSI de SolarWinds, Timothy Brown, a été accusé par la Securities and Exchange Commission d’avoir fraudé des investisseurs en omettant de divulguer les risques de sécurité connus qui ont conduit à une attaque massive de la chaîne d’approvisionnement contre l’entreprise. Les analystes et les professionnels du droit pensent que cela deviendra beaucoup plus courant. .

En ce qui concerne la manière de lutter contre les attaques d’IA générative avec l’IA générative, cela reste un travail en cours. Mais en 2024, Madanes a déclaré que l’industrie se lancerait dans la course à la création de solutions.

Je pense que nous commençons seulement à voir les gens comprendre comment les vecteurs d’attaque vont entrer dans les agents exposés au monde extérieur, quelle forme ils vont avoir et quelles seront les solutions commerciales qu’ils doivent mettre en place. Mais je ne pense pas que nous y soyons encore, a déclaré Madanes. Je pense que nous nous précipitons pour créer des solutions commerciales, les évaluer et les déployer.

Greenberg, qui a fourni une grande partie des informations sur les nouveaux types d’attaques en formation, tels que le phishing de niveau supérieur et la disponibilité d’applications comme FraudGPT, a plaidé en faveur de l’importance de plusieurs lignes de défense et a mis en garde contre le fait de croire qu’un seul outil peut faire le travail. .

« Je pense qu’il est important que nous comprenions que ce n’est pas un seul système, pas un seul produit qui peut gérer cela », a-t-il déclaré.