Recorded Future offre un aperçu de l’avenir de l’intelligence artificielle sur les menaces

La société de renseignements sur les menaces Recorded Future a annoncé mardi qu’elle déployait un outil d’intelligence artificielle générative qui s’appuie sur une version affinée du modèle GPT d’Open AI pour synthétiser les données.

Les progrès rapides de l’IA générative au cours des derniers mois ont conduit à une vague d’initiatives de la part des entreprises pour intégrer la technologie dans leurs offres, et des entreprises telles que Recorded Future – avec son énorme trésor de données propriétaires – montrent comment la technologie est susceptible d’être incorporée en produits à court terme.

Au cours de près de 15 ans d’activité, Recorded Future a collecté une énorme quantité de données sur l’activité des pirates informatiques malveillants, leur infrastructure technique et leurs campagnes criminelles. La société a utilisé ces données pour ajuster une version des modèles d’apprentissage en profondeur d’Open AI afin de créer un outil qui résume les données et les événements pour les analystes et les clients. En connectant le modèle d’IA à son graphe d’intelligence, qui collecte des données sur le Web, le modèle inclura des informations en temps quasi réel sur les vulnérabilités couramment exploitées ou les violations récentes.

« C’est quelque chose qui, pour un analyste humain, peut prendre plusieurs heures – lire tout ce matériel, puis générer un résumé », a déclaré à CyberScoop Staffan Truvé, co-fondateur et directeur de la technologie de Recorded Future. « Au fur et à mesure que vous parcourez les informations, vous avez maintenant quelqu’un qui les résume en temps réel. »

Les entreprises de cybersécurité ont largement intégré l’IA dans leurs produits au cours de la dernière décennie, mais la prochaine étape de l’intégration de l’apprentissage automatique dans les applications d’entreprise consiste à déterminer comment créer des outils génératifs utiles.

Des entreprises telles que Recorded Future, qui possèdent d’importants fonds de données internes, ont adopté ces derniers mois la technologie d’apprentissage en profondeur pour créer des outils d’IA génératifs. À la fin du mois dernier, Bloomberg a déployé BloombergGPT, un modèle de 50 milliards de paramètres formé sur les données financières.

En prenant d’importants fonds de données et en les alimentant dans des modèles d’IA, des entreprises comme Recorded Future et Bloomberg tentent de créer des systèmes d’IA génératifs parfaitement adaptés pour répondre aux questions auxquelles leurs clients comptent sur elles pour répondre. Les entreprises possédant de grandes quantités de données se tourneront probablement vers l’IA générative pour transformer ces données en une ressource plus productive.

Mais Bloomberg et Recorded Future offrent également un exemple de la manière dont les entreprises peuvent adopter différentes approches pour créer des modèles d’IA génératifs avec des implications majeures pour l’industrie au sens large. Alors que Bloomberg a construit son propre modèle sur mesure, Recorded Future s’appuie sur le modèle GPT fondamental d’OpenAI et paie l’entreprise en fonction du nombre de requêtes qu’elle interroge sur le modèle.

Bien que Truvé ne commente pas les conditions financières de la relation entre Recorded Future et OpenAI, il est probable que ces types d’accords interentreprises représentent un modèle commercial assez lucratif pour OpenAI, une entreprise qui fait face à un chemin difficile vers la rentabilité tout en faire face à des coûts de calcul faramineux pour former ses modèles.

Il est difficile d’évaluer la qualité des offres d’IA de Recorded Future. La société n’a pas testé son modèle par rapport aux outils d’analyse comparative standard de l’IA, mais s’appuie plutôt sur ses analystes internes pour tester et vérifier son exactitude. La société s’appuie sur les modèles GPT les plus avancés d’OpenAI, mais OpenAI a considérablement limité la quantité d’informations qu’elle met à disposition sur ses produits haut de gamme.

Dans leur empressement à répondre aux questions, les modèles d’IA avancés sont sujets aux hallucinations – énonçant avec confiance une information comme un fait qui n’a aucun fondement dans la réalité. Mais Truvé a déclaré que le modèle de l’entreprise parvient à éviter les hallucinations en grande partie parce que son application principale consiste à résumer un ensemble d’informations renvoyées dans le cadre d’une requête.

En effet, la performance de l’IA de Recorded Future est aidée par le fait que son objectif est assez simple. La fonctionnalité d’IA de l’entreprise fonctionne principalement comme un outil de synthèse, et Truvé considère l’outil d’IA comme quelque chose qui augmentera les analystes de la cybersécurité.

« Le défi auquel sont confrontés les acteurs de la cybersécurité est qu’il y a trop d’informations et trop peu de personnes pour les traiter. » Truve a déclaré: « Cela tente de résoudre le manque de temps disponible pour les analystes et le manque plutôt aigu d’analystes. »