L’influence croissante de ChatGPT dans le paysage de la cybersécurité – Tech Wire Asia

• Alors que les attaquants automatisent leurs méthodes et utilisent des outils d’IA comme ChatGPT pour améliorer leurs tactiques, il est important que les défenseurs utilisent l’IA pour riposter efficacement.
• L’IA peut analyser de grandes quantités de données en quelques secondes seulement, ce qui entraîne une amélioration significative du temps moyen de détection et de réponse.

Compte tenu de l’attention récente portée à ChatGPT, un puissant modèle de langage développé par OpenAI, de nombreux experts en cybersécurité surveillent de près son impact potentiel sur le terrain. Des étudiants aux professionnels de la technologie, il semble que ChatGPT soit devenu un terme courant dans le vocabulaire de tous les jours, soulignant la nécessité d’un examen continu de ses implications pour la cybersécurité.

Avec l’actualité de Google’s Bard et l’intégration des « Large Language Models » (LLM) d’IA dans les moteurs de recherche, les risques et les avantages de l’utilisation de « IA-bots conversationnels » ont atteint le grand public, de la salle à manger à la salle de conférence. Les moteurs de conversation sur ce sujet ont principalement porté sur sa mise en œuvre (ou son interdiction) dans le secteur de l’éducation et sur la question de savoir si le logiciel pourrait déplacer des personnes de leur travail.

BlackBerry visait à enquêter sur les opinions des professionnels de la sécurité informatique sur ChatGPT, malgré de nombreux documents de recherche sur les menaces qui ont identifié des vulnérabilités potentielles. Fil technique Asie s’est récemment entretenu avec Jonathan Jackson, directeur de l’ingénierie, APAC chez BlackBerry, à ce sujet.

« En fin de compte, nous avons constaté que les professionnels de l’informatique voient à la fois les opportunités et les menaces de la technologie sur différents marchés. Nous avons l’intention de sensibiliser aux risques et d’aider les individus et les organisations à mieux se préparer pour l’avenir de l’IA », a déclaré Jackson.

Il pense que les robots IA sont là pour rester. Alors que les acteurs de la menace continuent d’automatiser les attaques et d’exploiter des outils comme ChatGPT pour faire progresser leurs compétences et leurs tactiques, la capacité d’utiliser l’IA dans la défense, en combattant le feu par le feu, est cruciale.

Perceptions des professionnels de l’informatique sur ChatGPT

L’enquête de BlackBerry auprès de 1 500 décideurs en informatique et en cybersécurité a révélé que 51 % des personnes interrogées pensent qu’une cyberattaque réussie attribuée à ChatGPT se produira d’ici un an. 71 % des participants pensent également que les États-nations utilisent peut-être déjà ChatGPT à des fins malveillantes.

Jonathan Jackson, directeur de l’ingénierie pour APJ, BlackBerry

Jackson a mis en évidence quelques domaines d’impact potentiels dont les professionnels de la cybersécurité doivent être conscients. Selon lui, une mauvaise grammaire et d’autres problèmes de langue peuvent révéler qu’une communication est potentiellement malveillante. Il a également noté que ChatGPT peut être utilisé pour aider les pirates à créer des e-mails de phishing plus légitimes.

« Au-delà de cela, nous voyons des preuves dans les forums clandestins que ChatGPT est utilisé pour créer de nouveaux logiciels malveillants et améliorer les compétences de codage des pirates moins expérimentés », a déclaré Jackson. « Avec un cyber-paysage aussi évolutif, il est essentiel que nous restions vigilants et équipés pour atténuer ces menaces émergentes. »

Rôle de ChatGPT dans le secteur de la cybersécurité dans la région APAC

ChatGPT joue un rôle important dans l’industrie du cyber, et son influence ne fera qu’augmenter avec le temps. La plate-forme d’IA a élevé le niveau de discussion sur les avantages et les ramifications que l’IA apporte à différents publics cibles.

BlackBerry a publié son premier rapport Global Threat Intelligence le 31 janvier 2023, soulignant que sa technologie de prévention axée sur l’IA avait arrêté 1 757 248 cyberattaques basées sur des logiciels malveillants au cours des 90 jours entre le 1er septembre 2022 et le 30 novembre 2022, avec 10 300 attaques se produisant dans Singapour. Cela aurait signifié 3 433 attaques arrêtées à Singapour par mois, environ 113 par jour et près de cinq attaques par heure au cours de ces trois mois.

Les cybercriminels ne dorment jamais, et l’industrie de la cybersécurité dans l’APAC doit agir en réponse pour se préparer à de nouvelles tactiques évasives, ciblées et automatisées pour trouver leur prochaine victime.

L’importance de l’investissement dans l’IA pour les entreprises afin de lutter contre les cybermenaces

« Au fur et à mesure que LLM AI évolue, il deviendra de plus en plus difficile de défendre les organisations sans utiliser l’IA pour uniformiser les règles du jeu. Nos recherches ont montré que la plupart des professionnels de l’informatique sont conscients que les nouvelles cybermenaces alimentées par l’IA exigeront des cyberdéfense basées sur des outils alimentés par l’IA », a déclaré Jackson.

Des organisations telles que le groupe indonésien Bluebird s’appuient sur des fournisseurs de services de sécurité gérés, comme la détection et la réponse étendues gérées de BlackBerry (XDR), qui offre aux organisations une assistance 24 heures sur 24 de la part de professionnels chevronnés de la cybersécurité utilisant des outils de détection des menaces et de réponse à la pointe de la technologie pour la détection des intrusions. , la réponse aux incidents et l’élimination des menaces.

Jackson a partagé une histoire de client où GDEX en Malaisie, un autre client BlackBerry, utilise CylanceOPTICS et CylancePROTECT compatibles avec l’IA pour arrêter les menaces avant qu’elles ne se produisent, ce qui signifie que moins de personnes sont nécessaires pour surveiller moins d’alertes. CIO Melvin Foong chez GDEX déclare : « Nous n’avons pas besoin que nos employés surveillent cela de près. Je n’ai qu’à affecter une personne pour le vérifier périodiquement. Par rapport à d’autres domaines ou solutions, il se peut que j’aie besoin de cinq ou six personnes pour s’en occuper juste pour faire fonctionner les choses. »

Jackson explique que l’IA peut analyser de grandes quantités de données en quelques secondes, ce qui entraîne une amélioration significative du temps moyen de détection et de réponse. Cette capacité réduit la dépendance vis-à-vis d’un nombre limité de ressources humaines et réduit les coûts informatiques. Avec ces technologies avancées, les cyber-analystes sont alertés d’une attaque et le type d’attaque est classé, ce qui leur permet de réagir plus efficacement.

« Les cyber-analystes seront mieux équipés pour gérer même les menaces les plus complexes avec moins d’effort manuel, en faisant un meilleur usage des ressources déjà rares », a-t-il ajouté.

Recommandations à l’industrie informatique de l’APAC pour contrer les cybermenaces

Les organisations pourraient ajuster la façon dont elles évaluent et renforcent leur position en matière de cybersécurité grâce à des programmes de certification tels que les marques et les boîtes à outils CSA Cyber ​​Essentials et Cyber ​​Trust. Alternativement, ils pourraient également faire référence à des normes établies qui tiennent compte des vulnérabilités des technologies opérationnelles (OT), telles que le cadre de compétences en cybersécurité des technologies opérationnelles de CSA et les MITRE. Tactiques, techniques et connaissances communes contradictoires (ATT&CK) pour ICS.

Selon Jackson, les organisations doivent maintenir une bonne hygiène de cybersécurité en effectuant périodiquement des vérifications de l’état de leur infrastructure pour s’assurer que leurs correctifs sont à jour et que leurs défenses sont correctement réglées. Les organisations doivent passer à un environnement de sécurité zéro confiance pour créer une connectivité à laquelle un monde de travail à distance peut vraiment faire confiance. Un modèle de confiance zéro est centré sur la conviction que les organisations ne doivent pas automatiquement faire confiance à quoi que ce soit à l’intérieur ou à l’extérieur de leurs périmètres et doivent plutôt vérifier tout et n’importe quoi, les applications, les appareils, les réseaux et les personnes.

Zero Trust aborde la vérification des identités des utilisateurs comme un processus constant d’authentification, non seulement lors de la connexion, mais dans tous les chemins d’un plan de données. Il prend en compte non seulement les identifiants de connexion traditionnels, mais également l’authentification biométrique, les facteurs contextuels tels que l’emplacement et l’appareil, et même le profilage comportemental tel que la coordination œil-main, les modèles de défilement individuels et d’autres normes d’utilisation, a-t-il poursuivi.

Avec Zero Trust, l’action par défaut est toujours la vérification.

Restrictions ChatGPT

ChatGPT et d’autres comme lui sont de nouvelles technologies. Comme toute nouvelle technologie adoptée par les masses, des questions sont posées sur l’impact, à la fois bon et mauvais.

Par exemple, le ministère de l’Éducation de Singapour (MOE) adopte une approche intéressante car, plutôt que d’interdire purement et simplement son utilisation, il fournit aux enseignants les conseils et les ressources nécessaires pour utiliser efficacement la technologie numérique, telle que ChatGPT, pour améliorer l’apprentissage.

Source – Shutterstock

Il n’en est qu’à ses balbutiements et les cyber-professionnels et les pirates informatiques continueront de chercher comment ils peuvent l’utiliser au mieux, comme le feront tous les ministères et industries. Mis à part tout le battage médiatique et l’alarmisme, seul le temps dira qui est le plus efficace, a expliqué Jackson.

Principaux enseignements des recherches de BlackBerry sur ChatGPT et la cybersécurité

Nos recherches et nos idées ont fourni des données qui appuient une discussion très actuelle, a déclaré Jackson. Nous savons que les acteurs de la menace testent actuellement les eaux avec ChatGPT et comment ils peuvent exploiter de manière malveillante le logiciel pour lancer des cyberattaques.

Au fur et à mesure que la maturité de ChatGPT a augmenté, les pirates l’ont utilisé, ainsi que des plates-formes similaires, pour lancer des cyberattaques de plus en plus difficiles à protéger, ce qui a conduit à un besoin croissant pour les organisations d’utiliser des défenses d’IA pour uniformiser les règles du jeu. Cependant, l’utilisation de logiciels d’IA accessibles au public suscite des inquiétudes, ce qui suscite un débat sur la question de savoir si ces outils devraient être réglementés. Selon un récent sondage, 95 % des répondants croient que les gouvernements sont responsables de la réglementation de ces technologies.

Malgré cela, la recherche a également montré que les professionnels de l’informatique n’attendent pas l’action du gouvernement, 82 % d’entre eux prévoyant déjà leurs mesures défensives contre les cyberattaques renforcées par l’IA.

Il y a de nombreux avantages à tirer de cette technologie de pointe, et nous ne faisions que commencer à gratter la surface, ce qui est excitant. Mais nous devons également considérer que les acteurs de la menace voient les avantages et qu’ils ne perdront pas de temps à ajouter ces nouvelles technologies à leurs arsenaux malveillants, a conclu Jackson.

Alors que Singapour continue de profiter des avantages des outils d’IA conversationnelle comme ChatGPT, les secteurs public et privé doivent garder une longueur d’avance pour atténuer les risques de cybersécurité en combattant le feu par le feu, avec une IA défensive.