Jericho Security utilise l’IA pour lutter contre l’IA dans la nouvelle frontière de la cybersécurité

La startup de cybersécurité Jericho Security a annoncé aujourd’hui avoir levé 3 millions de dollars de financement de pré-amorçage pour créer des solutions utilisant l’intelligence artificielle (IA) afin de lutter contre les attaques de phishing de plus en plus sophistiquées générées par les systèmes d’IA.

Le cycle de financement a été mené par la société de capital-risque Era et comprend la participation de Lux Capital, FoundersXFund, MetaLabs, Alcove, Textbook, Alumni Venture Group, Thorntree et plusieurs investisseurs individuels.

L’approche de Jericho Security marque une nouvelle frontière pour la cybersécurité, en utilisant les capacités d’apprentissage automatique pour combattre l’IA par l’IA. Jericho oppose une équipe IA rouge à une équipe IA bleue dans des simulations pour découvrir les vulnérabilités et développer des défenses plus robustes.

Sage Wohns, cofondateur et PDG de Jericho Security, a déclaré à VentureBeat qu’il avait été inspiré pour démarrer l’entreprise après avoir entendu un professeur de Stanford mentionner les dangers potentiels des attaques de phishing IA génératives.

[The professor] l’a dit avec désinvolture, a expliqué Wohns. Il a dit : Que se passe-t-il lorsqu’un grand modèle de langage a un apprentissage par rétention et essaie de vous attaquer, apprend de ses attaques et peut vous attaquer à l’infini ? Et je me suis dit : Attends, tu vas juste dire ça et ne pas revenir sur ton sujet de cours ? Vous venez de lâcher la bombe sur nous tous.

Équipe rouge IA contre équipe bleue IA

Wohns dit que sa vision pour l’avenir est de créer une équipe rouge d’IA et une équipe bleue d’IA qui peuvent apprendre les unes des autres et améliorer leurs performances. L’équipe rouge de l’IA serait chargée de générer des attaques de phishing réalistes et personnalisées pouvant tester la posture de sécurité des clients et des employés. L’équipe AI blue serait responsable de la détection et de la prévention de ces attaques à l’aide d’un traitement avancé du langage, de modèles de langage personnalisés hébergés en privé et de données négociées.

En opposant ces deux équipes, nous pouvons créer une boucle de rétroaction qui peut nous aider à nous adapter au paysage changeant de l’IA et à garder une longueur d’avance, a-t-il déclaré.

Dans le monde de la cybersécurité, cette approche représente un changement majeur dans le paysage industriel. Il fait allusion à un avenir où la cyberguerre est définie par des modèles d’IA s’échangeant les uns avec les autres, évoluant constamment et apprenant de chaque interaction.

Wohns a souligné l’importance de se concentrer sur les menaces existantes plutôt que sur des menaces futures hypothétiques. Il s’agit de se concentrer diligemment et de ne pas être distrait par des avenirs hypothétiques, et de faire des domaines dont nous savons qu’ils sont des menaces existantes et de se concentrer sur ceux-ci en premier, a-t-il déclaré.

Menace persistante d’attaques de phishing

Wohns a également déclaré qu’il voyait une énorme opportunité de marché pour sa solution, car les solutions de cybersécurité actuelles deviennent obsolètes en raison de la génération AI. Il a cité KnowBe4, l’un des principaux fournisseurs de formations de sensibilisation à la sécurité et de simulation d’attaques de phishing, comme exemple d’une entreprise confrontée à l’obsolescence technique en raison de la génération d’IA.

C’est une entreprise et un business incroyables, a-t-il déclaré. Mais ils sont confrontés à une obsolescence technique en raison de l’IA générative. Ils existent depuis 10 ans; ils sont sortis maintenant trois fois. Et c’est un business phénoménal car les gens doivent avoir des solutions. Ils doivent l’acheter.

Wohns a également partagé quelques exemples d’attaques de phishing génératives dont il avait vu ou entendu parler, telles que de fausses factures de Costco ou de Best Buy, de fausses mises à jour de comptes bancaires provenant de sources de données divulguées et de fausses offres de capital-risque pour les startups. C’est pourquoi nous avons un prix très bas (3 $ par utilisateur et par mois), parce que je veux que cela soit diffusé au monde entier, afin que les gens soient conscients de ces menaces.

[Silicon Valley Bank] a créé une débâcle pour l’ensemble de la communauté des startups, où toute une série de campagnes de phishing génératives contre les startups ont commencé à partir de faux VC disant: Hé, nous pouvons vous virer de l’argent si vous nous donnez vos coordonnées bancaires », a-t-il ajouté. C’était effrayant à voir.

Equipe fondatrice de vétérans

Jericho Security est le résultat de décennies d’observation collective de l’évolution des menaces de cybersécurité par ses fondateurs.

Wohns est un technologue chevronné en IA et ancien PDG d’Agolo, une société de traitement du langage naturel (NLP). Tim Hwang est le cofondateur et PDG de FiscalNote, une plateforme de gestion des relations gouvernementales. Dan Chyan est un expert en cybersécurité et associé fondateur de PKC Security, une société de conseil en cybersécurité.

Le financement du cycle de pré-amorçage sera utilisé pour élargir l’offre de produits de Jericho Securitys, développer son équipe et étendre ses opérations à l’échelle mondiale.