Les professionnels de la cybersécurité prédisent la montée de l’IA malveillante – Help Net Security
76 % des professionnels de la cybersécurité pensent que le monde est sur le point de rencontrer une IA malveillante capable de contourner la plupart des mesures de cybersécurité connues, selon Enea.
26 % prévoient que cela se produira au cours de la prochaine année et 50 % au cours des 5 prochaines années.
Inquiétudes concernant l’IA malveillante parmi les professionnels de la sécurité
En plus de l’inquiétude concernant le dépassement de l’IA offensive par l’IA défensive, 77 % des professionnels expriment de sérieuses inquiétudes concernant l’IA malveillante, où le comportement de l’IA s’éloigne de son but ou de ses objectifs et devient imprévisible et dangereux.
Le phishing, l’ingénierie sociale et les attaques de logiciels malveillants sont considérés comme les principales menaces qui seront renforcées par l’IA, mais la fraude à l’identité, les violations de la confidentialité des données et les attaques DDoS ont également été citées comme susceptibles de devenir plus efficaces.
Les personnes interrogées sont néanmoins optimistes quant à l’impact positif de l’IA sur la cybersécurité. L’IA devrait renforcer la détection des menaces et les évaluations des vulnérabilités, la détection et la prévention des intrusions étant identifiées comme le domaine le plus susceptible de bénéficier de l’IA. L’apprentissage profond pour détecter les logiciels malveillants dans le trafic chiffré est le plus prometteur, puisque 48 % des professionnels de la cybersécurité s’attendent à un impact positif de l’IA.
Les économies de coûts sont apparues comme le principal KPI pour mesurer le succès des défenses renforcées par l’IA, tandis que 72 % des personnes interrogées pensent que l’automatisation de l’IA jouera un rôle clé dans la réduction de la pénurie de talents en cybersécurité.
L’adoption de l’IA reste faible dans le domaine de la cybersécurité
61 % des organisations n’ont pas encore déployé l’IA de manière significative dans le cadre de leur stratégie de cybersécurité, et 41 % considèrent l’IA comme une priorité élevée ou absolue pour leur organisation. Et 68 % des personnes interrogées espèrent une augmentation du budget pour les initiatives d’IA au cours des deux prochaines années.
50 % des responsables de la cybersécurité déclarent que leur organisation possède des « connaissances approfondies » en matière d’IA/ML en matière de cybersécurité, et 19 % déclarent des connaissances modérées », le tiers restant déclarant des connaissances nulles ou minimales. Lorsqu’on leur a demandé quelles mesures les organisations devraient prendre pour se préparer à des attaques d’IA sophistiquées ou écrasantes, 68 % ont cité une formation et une sensibilisation accrues des employés à la cybersécurité.
L’élaboration de plans de réponse aux incidents spécifiques à l’IA suivait de près (65 %), et 61 % ont déclaré des évaluations et des audits de sécurité réguliers. Plus de la moitié des personnes interrogées ont déclaré que le renforcement des contrôles de sécurité traditionnels tels que les protocoles Zero Trust, l’authentification multifacteur, les pare-feu de nouvelle génération et la veille sur les menaces était essentiel pour se préparer aux attaques sophistiquées de l’IA.
« Comprendre l’impact profond de l’IA sur la cybersécurité est crucial pour s’orienter dans un paysage de menaces en évolution », a déclaré Laura Wilber, analyste industrielle principale chez Enea. Cela commence par écouter attentivement les préoccupations et les espoirs des responsables de la cybersécurité et de leurs équipes en première ligne.
Ce rapport confirme les inquiétudes croissantes concernant l’utilisation malveillante de l’IA, mais il met également en lumière certaines innovations remarquables dans l’utilisation de l’IA pour rationaliser et automatiser les défenses. Des progrès significatifs ont déjà été réalisés, comme une réduction du temps moyen nécessaire pour détecter et contenir les menaces. Cependant, l’IA n’est pas une solution universelle. Il est essentiel que les entreprises adoptent une approche claire et méthodique dans la mise en œuvre des stratégies d’IA afin d’atteindre une préparation et une résilience maximales. Comme on dit chez Enea, ne soyez pas surpris, soyez prêt.