Le rôle de la perspicacité humaine dans la cybersécurité basée sur l’IA – Help Net Security
Pour libérer la puissance de l’IA, il est essentiel d’intégrer une contribution humaine. Le terme technique est Apprentissage par renforcement à partir de la rétroaction humaine (RLHF): une technique d’apprentissage automatique qui utilise la rétroaction humaine pour entraîner et améliorer la précision d’un modèle d’IA.
ChatGPT, l’exemple le plus notable d’IA et de RLHF travaillant ensemble, a pris le modèle de langage basé sur l’IA le plus innovant disponible (GPT-3 développé par OpenAI) et l’a associé à RLHF pour l’optimiser pour l’interaction humaine. Le résultat que nous connaissons tous maintenant est un outil puissant, rapide et (relativement) précis avec un format de dialogue simple qui a pris d’assaut le monde. La puissance de l’IA combinée au RLHF peut également avoir un impact sur d’autres technologies.
Si les outils de cybersécurité basés sur l’IA exploitaient RLHF, ils seraient extrêmement puissants, intuitifs et efficaces et pourraient améliorer les temps de détection et de réponse aux menaces les plus sophistiquées.
Les avantages du RLHF dans la cybersécurité
De la compromission des e-mails professionnels (BEC) aux deepfakes, les attaques de phishing ont augmenté en 2022 par rapport à l’année précédente. Ces menaces sont également extrêmement coûteuses pour les entreprises selon le rapport 2021 du FBI sur la criminalité sur Internet, BEC a représenté près d’un tiers des 6,9 milliards de dollars de cyberpertes du pays cette année-là.
C’est un enjeu pour les entreprises d’aujourd’hui d’avoir une stratégie de cybersécurité efficace en place pour détecter et répondre aux menaces potentielles et cela devrait intégrer les processus, la technologie et les personnes.
Lors de l’élaboration d’une stratégie de cybersécurité, l’utilisation du RLHF (ou des connaissances humaines) en conjonction avec l’IA peut vraiment changer la donne. RLHF peut être utilisé pour former des modèles basés sur l’IA afin de détecter et de répondre plus efficacement aux menaces potentielles en utilisant la rétroaction humaine pour apprendre à partir d’exemples réels.
Principaux avantages de la combinaison de l’IA et des connaissances humaines
Les quatre avantages clés de la combinaison de l’IA et des connaissances humaines sont :
1. Amélioration de la précision de la détection des menaces
Les solutions de cybersécurité traditionnelles, telles que les passerelles de messagerie sécurisées (SEG), s’appuient sur des règles et des modèles prédéfinis pour identifier les menaces potentielles. Cependant, ces règles et modèles peuvent devenir rapidement obsolètes, entraînant un taux élevé de faux positifs et de faux négatifs. Les attaques de phishing sophistiquées peuvent également échapper aux systèmes SEG car elles usurpent l’identité d’expéditeurs de confiance connus ou de comptes de prise de contrôle. En utilisant RLHF, le modèle peut apprendre des commentaires humains et s’adapter en permanence aux nouvelles menaces à mesure qu’elles émergent.
2. Détection et réponse plus rapides aux menaces potentielles
Les équipes de sécurité des entreprises passent jusqu’à 33 % de leur temps à gérer les escroqueries par hameçonnage. Étant donné que les solutions de cybersécurité traditionnelles reposent souvent sur des processus manuels, cela entraîne des retards dans la détection et la réponse aux menaces potentielles. En combinant l’IA et la RLHF, les équipes peuvent mieux identifier les menaces potentielles, ce qui réduit jusqu’à 90 % le temps nécessaire pour identifier et réagir aux escroqueries par hameçonnage, tout en réduisant considérablement la position de risque des organisations.
3. Amélioration de la sensibilisation à la sécurité
Les utilisateurs finaux sont souvent considérés comme le maillon faible de la protection d’une entreprise contre les cyberattaques et, pour la plupart des entreprises, les tests et la formation sont au mieux inefficaces et au pire inexistants. Lorsque les utilisateurs sont formés et encouragés à signaler les activités suspectes, ils peuvent fournir des informations précieuses sur les menaces nouvelles et émergentes qui peuvent ne pas être détectées par les systèmes de sécurité traditionnels. Étant donné que 95 % des menaces mondiales en matière de cybersécurité sont liées à une erreur humaine, cela peut aider les équipes de sécurité à garder une longueur d’avance sur les dernières menaces et à améliorer leur posture de défense globale.
4. Adaptez-vous et gardez une longueur d’avance sur les nouvelles menaces
En signalant une activité suspecte, les utilisateurs finaux peuvent aider à valider leur stratégie de cybersécurité en temps réel. Par exemple, les e-mails de phishing signalés par les utilisateurs peuvent être immédiatement examinés par l’équipe de sécurité de l’entreprise, ce qui les aide à apprendre et à s’adapter plus rapidement aux nouvelles menaces. Lorsqu’il est exploité par une équipe répartie dans différents services et fuseaux horaires, RLHF peut aider à réduire considérablement le temps de détection et de réponse aux menaces. En disposant d’une équipe d’experts en sécurité, les entreprises peuvent rapidement identifier et répondre aux menaces dès leur apparition, quel que soit leur emplacement ou l’heure de leur apparition. Cela peut être particulièrement avantageux pour les organisations ayant des opérations mondiales, car cela leur permet de garder une longueur d’avance sur les cybermenaces 24h/24 et 7j/7.