Où l’IA rencontre la cybersécurité : opportunités, défis et risques jusqu’à présent – SiliconANGLE
Comme en témoigne l’exemple de ChatGPT, l’intelligence artificielle progresse dans des directions sans précédent pour résoudre de nouveaux problèmes passionnants.
Mais, alors que l’IA est dirigée vers des opérations de cybersécurité critiques, les gains l’emportent-ils sur les risques et les préoccupations potentiels ?
« Vous devriez vous inquiéter », a déclaré Andy Thurai (photo), vice-président et analyste principal chez Constellation Research Inc. « Le problème que les gens ne réalisent pas, c’est queChatGPT, étant un nouvel objet brillant, c’est tout l’engouement dont il s’agit.BMais le problème est que la plupart du contenu produit soit par ChatGPT, soitd’autres sont des actifs sans garantie, responsabilité ou quoi que ce soit.jeSi c’est du contenu, c’est OK. Mais si c’est quelque chose commecode que vous utilisez, alors ce n’est généralement pas le cas.
Thurai s’est entretenu avec l’analyste de l’industrie theCUBE Dave Vellante àCloudNativeSecurityCon, lors d’une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté des préoccupations éthiques potentielles liées à la combinaison de l’IA et de la cybersécurité et de leurs ramifications.
Creuser plus profondément que la surface
Alors que de nombreux acteurs des industries du logiciel et de l’informatique sont ravis des ramifications de l’IA pour les développeurs et les ingénieurs qui veulent bien faire, il y a un autre côté, plus sinistre : le fait que ces outils peuvent simplifier des actes malveillants aussi simples que le spear phishing, a souligné Thurai.
« Les pirates utilisent déjà ces outils pourindividualisez le contenu, et ce n’est pas seulement ChatGPT », a-t-il déclaré. « Une des choses que vous pouvez facilementidentifier quand vous regardez les e-mails provenant d’une attaque de phishing si vous regardez certaines des cléséléments qu’il contient, qu’il s’agisse de contenu d’IA humain ou automatisé. Mais ces outils ont maîtrisé l’individualisation du contenu pour imiter le comportement humain naturel.
Cependant, tout n’est pas sombre, car l’IA montre déjà les avantages positifs qu’elle peut apporter à la cybersécurité, en particulier à une époque où l’analyse des logiciels malveillants basée sur des modèles n’est plus aussi efficace qu’elle l’était autrefois, selon Thurai.
« L’IA est excellente pour détecter les choses qui sont des anomalies etréduire le bruit afin que vous ne puissiez escalader queles choses que vous êtes censé faire », a-t-il dit. « AIOps est un excellent cas d’utilisation à utiliser dans les domaines de la sécurité,qu’ils n’utilisent pas encore dans une certaine mesure. La gestion des incidents est un autre domaine.
Voici l’interview vidéo complète, qui fait partie de la couverture de SiliconANGLEs et theCUBEs de CloudNativeSecurityCon: