ChatGPT est-il plus Star Wars ou Black Mirror dans la cybersécurité ?

Nous étions sur le point de vivre une révolution très intéressante – la révolution de l’IA, a déclaré Gil Shwed, fondateur et PDG de Check Point Software Technologies, lors de son discours d’ouverture pour lancer la récente conférence de son entreprise à New York.

Cela a donné le ton au CPX 360, où le potentiel et les dangers de l’IA générative ont littéralement occupé le devant de la scène. Il a déclaré que, dans l’ensemble, les cyberattaques devenaient de plus en plus sophistiquées et a cité une augmentation de 38 % des cyberattaques en 2022. Se référant aux recherches du Forum économique mondial, Shwed a brossé un tableau de l’inquiétude croissante concernant les cybermenaces. Quatre-vingt-onze pour cent des niveaux C pensent qu’ils étaient au bord d’un cyber-événement catastrophique, a-t-il déclaré.

Tout comme l’IA peut être utilisée pour mener des cyberattaques, elle pourrait également être exploitée pour la défense. Plus de la moitié des moteurs de menace de Check Point sont des IA, a déclaré Shwed, puis a partagé son point de vue selon lequel 2023 pourrait être un point de basculement où l’IA devient une partie importante de la vie quotidienne de chacun. Il a également présenté ce qu’il a dit être une histoire de première main de RSSI sur vidéo discutant d’une violation de la cybersécurité et de sa récupération – mais le témoignage vidéo était en fait une histoire d’IA produite à partir d’un incident réel.

Optimiste ou prudent ?

Plus tard est venue une table ronde, ChatGPT – Un phénomène qui change la vie ? Et ce que cela signifie pour la cybersécurité, animé par Dorit Dor, chef de produit chez Check Point. On a demandé aux panélistes si ChatGPT représentait le potentiel optimiste de Star Wars ou le ton inquiétant et prudent de Black Mirror.

Star Wars c’est sûr, a déclaré Eyal Manor, vice-président de la gestion des produits chez Check Point.

Dans sa version actuelle, ChatGPT est un droïde de protocole, a déclaré Eric Anderson, architecte en chef, Atlantic Data Security. Son C3PO ; Je peux converser avec lui. Je peux lui parler, je n’en ai pas encore peur. Mais il a le fort potentiel de devenir une histoire de Black Mirror, et c’est là le défi.

Baruch Toledano, vice-président et directeur général des solutions de marketing numérique chez Similarweb, a déclaré que c’était les deux mais se rapprochait de Star Wars. En tant que créateurs de technologie, a-t-il déclaré, les gens devraient reconnaître les moyens par lesquels elle peut améliorer des vies.

Avec les panélistes, l’audio ChatGPT a été diffusé dans la discussion pour répondre aux questions sur lui-même. La technologie OpenAIs, y compris ChatGPT, peut être utilisée à la fois de manière offensive et défensive dans le domaine de la cybersécurité, a déclaré l’IA.

Malgré un certain retard dans les réponses en direct lorsque ChatGPT a atteint sa capacité, l’IA a également parlé du buzz qui l’entoure. L’IA générative est devenue un sujet brûlant en raison des progrès de l’apprentissage en profondeur et de la puissance de calcul, d’un large éventail d’applications, de l’accessibilité, de la rentabilité et de l’enthousiasme suscité par son potentiel à révolutionner diverses industries. ChatGPT a déclaré que l’IA pourrait automatiser les défenses, générer des e-mails de phishing simulés pour former les employés à éviter de telles attaques, analyser de grandes quantités de données pour identifier les menaces de sécurité telles que les logiciels malveillants et automatiser les procédures de réponse aux incidents.

Il a également déclaré que des modèles de langage avancés pourraient être utilisés pour automatiser et mettre à l’échelle les attaques de phishing et d’ingénierie sociale. ChatGPT a déclaré qu’il pourrait être utilisé pour développer de nouvelles solutions de sécurité basées sur le traitement du langage naturel, y compris des filtres de messagerie améliorés.

ChatGPT : à la recherche d’une application pratique

Anderson a déclaré qu’il avait joué avec ChatGPT par curiosité mais qu’il n’avait pas trouvé d’application pratique pour lui-même. Ce que ChatGPT a essentiellement fait, c’est combiner l’IA, une IA générative très sophistiquée, avec un volume massif de données – je pense que c’est comme 300 milliards de mots qu’ils y ont introduits – et les combiner avec une interaction humaine et une formation en quelque chose que la population générale peut comprendre, dit-il.

Par exemple, ChatGPT peut rédiger des articles. Anderson a également déclaré que les deux côtés de la cybersécurité, les attaquants et les défenseurs, pourraient finalement bénéficier de ChatGPT. La question devient, qui est peut-être le premier, et qui en tire le meilleur parti ?

Comme pour la plupart des choses, a-t-il dit, le côté offensif peut être vu en premier, puis les défenseurs répondent. Je ne sais pas si nous avons vu ChatGPT encore utilisé efficacement dans le cyber, mais nous avons vu ce même exemple se jouer dans l’éducation, a déclaré Anderson, faisant référence aux étudiants utilisant l’IA pour rédiger des articles qu’ils ont soumis en classe, ce qui a conduit à une réponse pour les éducateurs à utiliser la même technologie pour identifier le contenu créé par l’IA.

Toledano a déclaré que presque tous ceux qui utilisent une forme de contenu peuvent être intéressés par ChatGPT, y compris les e-mails ou les présentations. Ne le prenez pas trop au sérieux, dit-il.

Il y a des risques, a déclaré Toledano, avec l’IA générative dans les deepfakes combinant l’audio et la vidéo pour créer de fausses informations. Cela augmente la nécessité, a-t-il dit, d’examiner l’authenticité, l’autorité et la confiance derrière une source de contenu.

Manor a décrit ChatGPT comme plus changeant que les débuts des smartphones avec l’IA produisant de meilleurs résultats en moins de temps. L’automatisation offerte par ChatGPT et d’autres IA génératives, a-t-il déclaré, pourrait faciliter l’identification des attaquants potentiels qui tentent de dissimuler leurs infiltrations. Nous pouvons entraîner le modèle à faire plus de travail à notre place, a déclaré Manor. Peut-être que beaucoup de tâches qui étaient effectuées pourraient être automatisées et effectuées sans nous.

Que lire ensuite :

Le clignotement de ChatGPT

ChatGPT : un auteur sans éthique

ChatGPT : cas d’utilisation des yeux des entreprises, les éthiciens restent inquiets