Quel est l’impact de l’IA sur la sensibilisation à la cybersécurité ?

Par exemple, lorsque le PDG vous envoie un e-mail, utilise-t-il ce ton ? Utilisent-ils cette inflexion ? Je peux donner à Chat GPT une commande pour leur dire d’écrire comme mon PDG, mais la plupart des adversaires ne font que des invites. Ainsi, il utilisera un langage différent de celui que vous avez l’habitude de voir dans votre environnement.

HR : Ouais, je suis d’accord avec Michelle et Fletus. Cela va changer l’orientation de la formation de sensibilisation à la sécurité.

J’ai remarqué un autre problème en parlant à mes étudiants qui font partie de la nouvelle cohorte cette année. À la fin de la première journée, nous nous sommes ouverts aux questions, et les trois premières questions concernaient l’IA et leurs emplois seront-ils encore là à la fin du cours ?

Donc, maintenant, vous avez déjà des gens qui sont sur le point d’entrer dans l’industrie qui ont peur de ne pas avoir la capacité d’opérer dans l’industrie. Nous avons déjà une pénurie de talents critiques dans le domaine de la cybersécurité et nous voyions maintenant l’IA décourager les gens de potentiellement s’engager dans cette voie parce qu’ils sont comme, eh bien, les ordinateurs vont le faire pour moi, et qu’est-ce que je vais faire pour être en mesure de rivaliser contre ça ?

PF : Je ne suis pas sûr que l’IA puisse vraiment s’attaquer à la partie émotionnelle. Je ne dis pas que ce ne sera pas le cas. Je pense qu’il y aura des moments où il partagera des informations et ne pourra pas lire la pièce à ce sujet.

ML : C’est un domaine de la sécurité que les gens négligent vraiment, nous l’appelons les compétences non techniques par opposition aux compétences critiques et à l’écriture. Créer des relations avec les gens est en fait très difficile et c’est essentiel. Vous essayez une entreprise, sans elle, vous n’irez pas très loin. Alors oui, mais je ne m’inquiète pas pour cette partie du travail.

S : L’une des choses effrayantes pour moi est l’avancement de choses comme les faux profonds utilisant l’IA. Ma préoccupation est que nous allons cesser de faire confiance à ce que nous voyons sur n’importe quel média, car cela peut être falsifié si facilement. Ce sera toujours un jeu du chat et de la souris.

Selon vous, qu’est-ce qui apportera le plus d’avantages à l’IA pour la sensibilisation à la sécurité ?

HR : D’un autre côté, je pense que cela aidera les utilisateurs à en savoir plus en temps réel. Sa va leur donner de meilleurs exemples. Cela va apporter plus de pertinence à la formation. C’est juste une question de gestion du système pour qu’il nous aide plutôt que de le laisser être un problème.

ML : Je pense que cela rend la formation de sensibilisation plus collaborative, car quelque chose qui allait être envisagé (sur Channel 4) était d’envoyer des personnes sur Chat GPT et de leur demander de nous dire quels e-mails de phishing fonctionneraient vraiment. Alors maintenant, nous collaborons avec les gens au lieu du traditionnel, Ha! Nous vous avons attrapé ! démarche de formation.

PF : Je suis d’accord, je pense que les responsables de la sensibilisation devraient l’utiliser. Par exemple, vous avez un document très technique et vous voulez le rendre plus convivial à digérer et vous voulez supprimer ces termes techniques. Vous pouvez lui demander de l’écrire du point de vue de x.

SW: De mon point de vue, j’ai beaucoup utilisé ChatGPT juste pour m’avoir aidé à dresser des listes complètes de choses. Mais, si je devais lui faire confiance pour un type de travail critique, je me demande quelle confiance devrais-je lui accorder et comment puis-je vérifier qui est réellement derrière ?

Lorsque l’IA sera largement adoptée, à quoi ressembleront les décisions des employés et la sensibilisation à la sécurité ?

HR : Quand je pense au futur de l’IA en milieu de travail, je me demande à quel moment sera-t-elle notre copilote ? À quel moment allons-nous effectuer nos tâches quotidiennes et c’est juste là, en surveillant ce que nous faisons. J’imagine qu’il s’agit essentiellement d’un grand frère, planant au-dessus de votre épaule pour vous assurer que vous n’allez pas partager quelque chose qui est PII ou une source interne, ou que vous n’allez pas cliquer sur un e-mail que vous ne devriez pas. Je me demande comment l’IA pourrait réellement être exploitée pour faire cela? Et quelle serait l’adoption et l’adoption de cela?

SW : Je pense que cela va se produire parce qu’il y aura tellement d’automatisation et d’externalisation des choses que les décisions que les employés devront prendre seront vraiment importantes et ce ne sera pas simplement : dois-je faire ceci ou cela ?

Ça va être, vais-je autoriser cette entrée à entrer dans l’automatisation ? ou Que se passe-t-il si l’automatisation échoue et que je dois faire quelque chose par moi-même ?. Donc, je pense que les gens vont devoir devenir de meilleurs gestionnaires de risques individuels plutôt que de simplement surveiller les mauvais domaines et des choses comme ça.

HR : C’est comme lorsque Google est sorti pour la première fois, nous avons tous dû apprendre à faire des choses sur Google. Maintenant, les gens de notre génération savent comment résoudre ces problèmes, nous semblons juste savoir comment Google nous-mêmes dans cette solution. C’est une façon efficace de penser de façon critique. Donc, maintenant, nous devions acquérir de nouvelles compétences sur la façon d’utiliser l’IA.

PF : Je pense qu’ils vont avoir des rôles dédiés à l’utilisation de l’IA pour créer du contenu, vérifier le contenu, rechercher des données, et plus ou moins ce que nous avions pour les vérificateurs de données.

Ils viennent d’annoncer que Bing est en train d’intégrer ou que Microsoft va intégrer leur IA dans leur plate-forme bureautique. Vous pouvez télécharger un exemple d’un document que vous avez écrit et il vous donnera des informations sur la façon d’écrire à nouveau ce document pour votre nouveau public.

Vous devez donc savoir à quoi ressembleront vos changements de politique du point de vue de la sensibilisation, à quoi ressembleront votre gouvernance et vos risques si vous activez cette fonction dans votre ensemble d’outils de bureau.

SW : Je pense que ça va être intéressant parce que je pense que beaucoup de gens ne réalisent pas que cette capacité d’IA existe déjà ou est en cours de construction en quelque sorte coïncidant avec la technologie actuelle. Et ce sera un niveau d’intégration très rapide pour de nombreux outils qui commencent tout juste à tirer parti de ce genre de choses. Et je pense que beaucoup de gens ne réalisent pas que cela va venir assez rapidement.

Comment se protège-t-on ?

PF : Donc, ce que nous avons déjà fait, c’est simplement rappeler à mes employés et à mes managers que rien de ce qui est considéré comme interne ne devrait jamais être copié-collé dans ChatGPT, Bart ou l’un des êtres en devenir. S’ils veulent l’utiliser pour modifier quelque chose, ils peuvent nous le faire savoir et nous pouvons discuter de ce à quoi cela ressemble.

ML : Nous avons une réglementation douce à venir. Ici, au Royaume-Uni, le gouvernement vient d’approuver certaines suggestions selon lesquelles il devrait y avoir une réglementation. Je suis content de le voir venir car nous avons besoin de garde-corps sur ces routes non pavées. Beaucoup de gens veulent se précipiter pour l’utiliser pour montrer qu’ils sont modernes. Mais, je pense que cela vaut la peine de prendre un peu de temps.

Je ne pense pas qu’il y ait quelque chose de mal à dire, attendez une minute, réfléchissons à cela. Si nous avions fait cela avant qu’ils n’inventent le courrier électronique, nous serions peut-être un peu mieux lotis. Droite?

PF : Une autre analogie que j’ai est celle du début des années 1900, lorsque les lampadaires ont été produits pour la première fois. Les gens étaient indignés qu’il y ait maintenant des lumières à l’extérieur de leurs maisons. Ils étaient habitués quand le soleil se lève, vous sortez, et quand il se couche, vous rentrez chez vous. Pouvez-vous imaginer si nous écoutions et si nous n’avions pas de lumière pour éclairer l’environnement après le coucher du soleil ?

Je pense que l’IA est comme ça. Avaient tous peur parce que nous ne connaissons pas la valeur et nous ne connaissons pas les avantages. Il y a des risques. Il y a un risque à avoir un lampadaire, mais c’est la proposition de valeur de risque. Quel sera le risque-récompense de la technologie ?

En fin de compte, cela revient à la philosophie simple dont nous parlons tout le temps : faites confiance, mais vérifiez. Faites ce que j’ai mentionné plus tôt, ou demandez-vous si cela ressemble à la personne à qui vous parlez normalement, puis vérifiez-le. Vous ne pouvez jamais le prendre d’une seule source.

Si l’IA dans la cybersécurité introduit un nouvel ensemble de risques, elle nous offre également une plus grande opportunité de faire progresser notre formation et de nous concentrer sur une vue d’ensemble, du point de vue du risque humain. J’espère que ce panel vous a inspiré à plonger un peu plus dans le monde de l’IA et ses risques associés.

Pour en savoir plus sur le rôle de l’IA dans la cybersécurité, consultez l’enregistrement complet de notre table ronde. Merci à nos panélistes et participants d’être à l’écoute !