25 statistiques sur l’IA en matière de cybersécurité que vous devriez connaître – Help Net Security

Dans cet article, vous trouverez des extraits de rapports que nous avons récemment couverts, qui offrent des statistiques et des informations sur les défis et les problèmes de cybersécurité découlant de l’expansion de l’IA.

Les professionnels de la sécurité sont prudemment optimistes à l’égard de l’IA

Alliance de sécurité cloud et Google Cloud | Le rapport d’enquête sur l’état de l’IA et de la sécurité | avril 2024

• 55 % des organisations prévoient d’adopter les solutions GenAI au cours de cette année, ce qui signale une augmentation substantielle de l’intégration de GenAI.
• 48 % des professionnels ont exprimé leur confiance dans la capacité de leur organisation à mettre en œuvre une stratégie visant à tirer parti de l’IA en matière de sécurité.
• 12 % des professionnels de la sécurité pensent que l’IA remplacera complètement leur rôle.

Les abus sur l’IA et les campagnes de désinformation menacent les institutions financières

FS-ISAC | Naviguer dans le Cyber ​​2024 | mars 2024

• Les acteurs de la menace peuvent utiliser l’IA générative pour écrire des logiciels malveillants et des cybercriminels plus expérimentés pourraient exfiltrer des informations ou injecter des données contaminées dans les grands modèles de langage (LLM) qui entraînent GenAI.
• Les récents progrès de l’informatique quantique et de l’IA devraient remettre en question les algorithmes cryptographiques établis.

Les entreprises bloquent de plus en plus les transactions IA pour des raisons de sécurité

Zscaler | Rapport sur la sécurité de l’IA 2024 | mars 2024

• Aujourd’hui, les entreprises bloquent 18,5 % de toutes les transactions d’IA, soit une augmentation de 577 % entre avril et janvier, pour un total de plus de 2,6 milliards de transactions bloquées.
• Certains des outils d’IA les plus populaires sont également les plus bloqués. En effet, ChatGPT a la particularité d’être à la fois l’application d’IA la plus utilisée et la plus bloquée.

Les fraudeurs exploitent l’anxiété liée à la période des impôts avec des outils d’IA

McAfee | Étude sur les fraudes fiscales 2024 | mars 2024

• Parmi les personnes qui ont cliqué sur des liens frauduleux provenant de prétendus services fiscaux, 68 % ont perdu de l’argent. Parmi eux, 29 % ont perdu plus de 2 500 $ et 17 % ont perdu plus de 10 000 $.
• 9 % des Américains ont confiance dans leur capacité à repérer les vidéos deepfake ou à reconnaître les sons générés par l’IA, comme les fausses interprétations d’agents de l’IRS.

L’IA, l’analyse et l’automatisation avancées sont essentielles pour faire face à la complexité de la pile technologique

Dynatrace | L’état de l’observabilité 2024 | mars 2024

• 97 % des leaders technologiques estiment que les modèles AIOps traditionnels sont incapables de gérer la surcharge de données.
• 88 % des organisations déclarent que la complexité de leur pile technologique a augmenté au cours des 12 derniers mois, et 51 % affirment qu’elle continuera d’augmenter.
• 72 % des organisations ont adopté l’AIOps pour réduire la complexité de la gestion de leur environnement multicloud.

Les plus grands défis actuels en matière de sécurité de l’IA

Couche cachée | Rapport sur le paysage des menaces liées à l’IA 2024 | mars 2024

• 98 % des entreprises interrogées considèrent certains de leurs modèles d’IA comme essentiels à leur réussite, et 77 % d’entre elles ont été confrontées à des failles dans leurs systèmes d’IA au cours de l’année écoulée.
• 61 % des responsables informatiques reconnaissent que l’IA fantôme, c’est-à-dire des solutions qui ne sont pas officiellement connues ou sous le contrôle du service informatique, comme un problème au sein de leur organisation.
• Les chercheurs ont révélé l’utilisation intensive de l’IA dans les entreprises modernes, notant en moyenne 1 689 modèles d’IA activement utilisés par les entreprises. Cela a fait de la sécurité de l’IA une priorité absolue, puisque 94 % des responsables informatiques consacreront des fonds à la protection de leur IA en 2024.

Les outils d’IA exposent les entreprises au risque d’exfiltration de données

Code42 | Rapport annuel sur l’exposition des données 2024 | mars 2024

• Depuis 2021, il y a eu une augmentation moyenne de 28 % des événements mensuels d’exposition, de perte, de fuite et de vol de données provoqués par des initiés.
• Alors que 99 % des entreprises disposent de solutions de protection des données, 78 % des responsables de la cybersécurité admettent que des données sensibles ont encore été violées, divulguées ou exposées.

95 % pensent que les LLM rendent la détection du phishing plus difficile

Dernier passage | Enquête LastPass 2024 | mars 2024

• Plus de 95 % des personnes interrogées estiment que le contenu dynamique via les grands modèles linguistiques (LLM) rend la détection des tentatives de phishing plus difficile.
• Le phishing restera la principale menace d’ingénierie sociale pour les entreprises tout au long de l’année 2024, dépassant d’autres menaces telles que la compromission de la messagerie professionnelle, le vishing, le smishing ou l’appâtage.

Comment l’IA remodèle le paysage de l’emploi en cybersécurité

ISC2 | IA Cyber 2024 | Février 2024

• 88 % des professionnels de la cybersécurité estiment que l’IA aura un impact significatif sur leur travail, maintenant ou dans un avenir proche, et 35 % ont déjà été témoins de ses effets.
• 75 % des personnes interrogées sont modérément à extrêmement préoccupées par le fait que l’IA soit utilisée pour des cyberattaques ou d’autres activités malveillantes.
• L’enquête a révélé que 12 % des personnes interrogées ont déclaré que leur organisation avait bloqué tout accès aux outils d’IA générative sur le lieu de travail.

Les entreprises interdisent ou limitent l’utilisation de GenAI en raison des risques liés à la vie privée

Cisco | Étude comparative Cisco 2024 sur la confidentialité des données | Février 2024

• 63 % ont établi des limites quant aux données pouvant être saisies, 61 % ont des limites quant aux employés pouvant utiliser les outils GenAI, et 27 % ont déclaré que leur organisation avait complètement interdit les applications GenAI pour le moment.
• Malgré les coûts et les exigences que les lois sur la protection de la vie privée peuvent imposer aux organisations, 80 % des personnes interrogées ont déclaré que les lois sur la protection de la vie privée ont eu un impact positif sur elles, et seulement 6 % ont déclaré que l’impact a été négatif.
• 91 % des organisations reconnaissent qu’elles doivent faire davantage pour rassurer leurs clients sur le fait que leurs données sont utilisées uniquement à des fins prévues et légitimes dans le cadre de l’IA.

Libérer tout le potentiel des GenAI grâce à la réinvention du travail

Accenture | Travail, main-d’œuvre, travailleurs : réinventés à l’ère de l’IA générative | janvier 2024

• Alors que 95 % des travailleurs voient l’intérêt de travailler avec GenAI, 60 % sont également préoccupés par la perte d’emploi, le stress et l’épuisement professionnel.
• 47 % des réinventeurs voient déjà plus grand, reconnaissant que leurs processus nécessiteront des changements importants pour tirer pleinement parti de GenAI.

Les adversaires exploitent les tendances et ciblent les applications GenAI populaires

Netscope | Rapport sur le cloud et les menaces 2024 | janvier 2024

• En 2023, ChatGPT était l’application d’IA générative la plus populaire, représentant 7 % de l’utilisation en entreprise.
• La moitié de tous les utilisateurs d’entreprise interagissent avec entre 11 et 33 applications cloud chaque mois, les 1 % les plus riches utilisant plus de 96 applications par mois.