L’IA est nécessaire pour lutter contre la fraude à l’IA, expert en cybersécurité
L’intelligence artificielle (IA) présente un énorme potentiel pour améliorer les opérations des services financiers, comme l’écriture de code et l’apprentissage des préférences des clients, mais elle est également de plus en plus utilisée pour perpétrer des fraudes.
En effet, la fraude à l’IA augmente à un rythme tel que les équipes de cybersécurité ont du mal à suivre. S’exprimant dans un nouvel épisode de GlobalData’s Intelligence thématique podcast, Martin Rehak, PDG et fondateur de la société de cybersécurité Resistance AI, a souligné l’importance d’une approche à multiples facettes, qu’il décrit comme une défense en profondeur.
Types de fraude à l’IA
Rehak a expliqué que la fraude à l’IA permet principalement un changement d’échelle sans engendrer un changement de portée.
Au fond, tout [types of AI fraud] sont des extensions des formes de fraude typiques ou traditionnelles qui existent depuis quelques années, notamment en utilisant l’IA pour cibler les processus d’intégration… a-t-il déclaré.
Il est utilisé pour étendre la création de faux comptes et le vol de véritables identités commerciales, puis pour ouvrir des comptes auprès d’institutions financières du monde entier, qui sont ensuite utilisés pour frauder des personnes ou pour blanchir de l’argent.
La deuxième [use] c’est quand vous volez réellement l’argent. C’est ici que vous vous adressez à des entreprises ou à des personnes et que vous utilisez l’IA pour produire des conversations et des relations suffisamment plausibles pour convaincre les gens de vous envoyer de l’argent.
Accédez aux profils d’entreprise les plus complets du marché, alimentés par GlobalData. Économisez des heures de recherche. Bénéficiez d’un avantage concurrentiel.
Échantillon gratuit de profil d’entreprise
Merci!
Votre e-mail de téléchargement arrivera sous peu
Nous sommes confiants dans la qualité unique de nos profils d’entreprise. Cependant, nous voulons que vous preniez la décision la plus avantageuse pour votre entreprise, c’est pourquoi nous vous proposons un échantillon gratuit que vous pouvez télécharger en soumettant le formulaire ci-dessous.
Par GlobalData
Ces derniers cas sont ceux qui ont tendance à faire la une des journaux. L’annonce de l’année dernière selon laquelle un employé de la finance de Hong Kong avait été amené à envoyer 25 millions de dollars à des fraudeurs au moyen d’un appel vidéo truqué a fait sortir le sujet de sa niche et l’a fait entrer dans le courant dominant.
Le problème est que la plupart des fraudes sont beaucoup moins voyantes. Banquier de détail international a rapporté en mars que la fraude à l’identité pourrait représenter la moitié de toutes les fraudes bancaires d’ici 2025.
Expliquant pourquoi il s’agit d’un problème, Rehaks a déclaré : Il existe quelques cas très médiatisés dans lesquels quelqu’un vole 25 millions de dollars, et c’est bien, mais les cas typiques dont nous entendons parler quotidiennement vont de 5 000 à 50 000 dollars. Si vous perdez autant d’argent, cela ne fait pas la une des journaux, mais la vraie nouvelle est à quel point ce crime est normal. Si vous regardez les taux d’enquêtes sur ces crimes et d’arrestation des auteurs, ils sont pratiquement nuls.
Généralement, cela signifie que quelqu’un repart avec l’argent et qu’il ne reste pas beaucoup d’argent à la victime. Il existe des cas exceptionnels où les gangs sont poursuivis en justice, mais la plupart des crimes ciblent différents pays pour des raisons politiques, et il est très difficile de convaincre la police d’enquêter sur une affaire qui s’étend à plusieurs pays et de lui faire faire 60 demandes de documents différentes dans cinq langues différentes. . Ils tentent de lutter contre la criminalité du 21St siècle en utilisant les moyens du 19ème.
Comment arrêter la fraude à l’IA
Si l’on ne peut pas faire confiance aux forces de l’ordre pour mettre fin à ces crimes et que les techniques actuelles sont dépassées, la solution peut être tirée de la même source que la cause.
Rehak estime que le meilleur moyen de vaincre les outils des mauvais acteurs est d’avoir sa propre IA, expliquant : Nous devons placer l’IA devant l’IA qui effectue l’intégration pour empêcher les criminels de tirer parti de l’automatisation. Nous ne voulons pas d’attaques évolutives, nous ne voulons pas que des milliers de fausses identités soient intégrées en tant que clients des banques.
La manière dont nous procédons est intéressante car le danger de l’IA est que les attaquants apprennent en permanence. Autrefois, les projets de prévention de la fraude se construisaient à l’échelle de plusieurs mois ; un projet accéléré peut être réalisé en trois à six mois et généralement un an.
Aujourd’hui, il faut travailler sur la durée des minutes ou des heures. Si vous ne réparez pas votre système dans les quelques heures qui suivent la découverte d’une vulnérabilité, il est très facile pour les attaquants d’exploiter vos faiblesses à grande échelle… Nous le voyons sur les réseaux sociaux, nous le voyons de la part des institutions financières et nous le voyons également. beaucoup dans le secteur des paiements.
La fraude a toujours existé, et existera probablement toujours, mais l’IA offre un avantage inaccessible en n’ayant que des humains dans une équipe. Ceci est particulièrement important aujourd’hui, car l’infrastructure permettant la fraude est incroyablement détaillée.
La deuxième chose qui joue en leur faveur est qu’ils disposent de marchés noirs très efficaces, a déclaré Rehak. Autrefois, un pirate informatique qui découvrait un exploit devait tout concevoir pour gagner de l’argent grâce à cela.
Aujourd’hui, cependant, il existe une multitude de services disponibles, un peu comme l’embauche d’entrepreneurs pour des tâches légitimes. Un processus typique consiste à acheter de fausses identités à un groupe, à les envoyer à un autre qui produit des documents à partir de celles-ci et à les remettre à un spécialiste de l’identification qui ouvrira des comptes en votre nom. Ces comptes peuvent ensuite être vendus à des personnes souhaitant commettre des délits financiers, notamment le blanchiment d’argent et l’évasion des sanctions.
Une forteresse numérique
La chose la plus importante à retenir, a déclaré Rehak, est le concept de sécurité le plus ancien que nous ayons : la défense en profondeur. Vous ne devriez pas avoir un seul système de sécurité ou une seule couche de sécurité. Les institutions financières doivent travailler avec des spécialistes qui savent ce qui se passe dans le secteur de la criminalité financière et qui sont capables de créer des modèles d’IA suffisamment rapides pour être à égalité avec les attaquants.
Enfin et surtout, vous ne devriez jamais vous endormir. Vous devriez toujours penser que l’autre côté sera plus intelligent. Tester et ne jamais se faire confiance sont les deux principaux conseils que je peux recevoir.