Les attaques de données vont entrer dans une nouvelle ère sous le nom de « FraudGPT », préviennent les responsables de la cybersécurité

Une nouvelle génération de modèles d’IA malveillants annonce une ère d’attaques de données basées sur l’IA contre les entreprises, a prévenu Nicole Carignan, vice-présidente de la cyberIA stratégique de Darktrace.

Parler à Ville AMCarnigan a déclaré que les attaques contre les données deviendront plus rapides et plus difficiles à défendre au cours des prochaines années, à mesure que les nouveaux systèmes d’IA rendront les attaques plus sophistiquées.

Vendus sur le dark web, les systèmes d’IA tels que FraudGPT et WormGPT sont conçus pour aider les cybercriminels à rédiger des e-mails de phishing, à planifier des cyberattaques et à créer facilement du code malveillant.

Ils permettent à des adversaires beaucoup moins sophistiqués de mener des attaques beaucoup plus sophistiquées, explique Carignan, qui possède 25 ans d’expérience en cybersécurité.

Une étude réalisée en avril par la société britannique de cybersécurité Darktrace a révélé une augmentation de 135 % des e-mails de phishing entre janvier et février, coïncidant avec l’adoption généralisée de Chat GPT.

Darktrace a déclaré que les professionnels intersectoriels du monde entier sont témoins d’une augmentation incontrôlable des e-mails frauduleux, près d’un tiers étant victimes de tentatives de phishing.

Au rythme de croissance actuel, les dommages mondiaux causés par les cyberattaques devraient s’élever à 10 500 milliards de dollars (8 200 milliards) par an d’ici 2025, selon une enquête de McKinsey.

L’IA générative a permis à ces escroqueries de devenir impossibles à distinguer d’une véritable communication, et Carignan a déclaré qu’elles sont désormais plus sophistiquées, plus rapides et à plus grande échelle.

La réglementation de l’IA doit trouver un équilibre

Alors que les réglementations sur l’IA sont encore en cours d’élaboration, Kunal Anand, chef de la technologie chez Imperva, société de solutions de cybersécurité, a fait valoir que les réglementations sur les données « ont besoin de plus de mordant ».

Actuellement, les entreprises britanniques peuvent être condamnées à une amende allant jusqu’à 4 % de leur chiffre d’affaires annuel pour mauvaise gestion des données.

Cependant, en parlant à Ville AMAnand a déclaré que « s’il y a des violations de données, les entreprises devraient être sanctionnées » par de sévères sanctions financières, en particulier lorsque des données cruciales sur l’organisation et les clients sont en jeu.

Pour le moment, il a déclaré qu’« il faut un hack pour que les gens s’en soucient ».

Cela fait suite à une récente violation majeure impliquant une vulnérabilité du logiciel MOVEit qui a exposé des noms bien connus comme Boots, British Airways et la BBC à un énorme vol de données.

L’attaque, qui aurait été menée par le groupe de ransomware russe Clop, a été jugée « étonnamment simple » par les experts.

Les attaques de données basées sur l’IA présentent un risque financier et de réputation important pour les entreprises. Le coût moyen mondial des violations de données a grimpé à 4,45 millions de dollars (3,48 millions) en 2023, soit une hausse de 15 % en trois ans, selon le géant technologique IBM.

Face à l’escalade des cyberattaques, les entreprises doivent donner la priorité à la sécurité des données et prendre des mesures proactives pour faire face aux menaces, a déclaré Malcolm Ross, directeur technique adjoint de la société de logiciels Appian.

Il a dit Ville AM que de nombreuses organisations « sautent dans le train de l’IA » sans comprendre pleinement son fonctionnement et sans sacrifier des données importantes.

Ross a expliqué : « Si vous ne voulez pas qu’un humain le voie, ne le montrez pas non plus à l’IA, car elle s’en souviendra et vous ne pouvez pas le faire oublier.

« Les organisations doivent avoir une compréhension globale de leurs propres données si elles veulent en garder le contrôle et éviter les violations. »