La start-up de cybersécurité Protect AI se lance avec un financement de 13,5 millions de dollars
La start-up de cybersécurité des systèmes d’intelligence artificielle et d’apprentissage automatique Protect AI est aujourd’hui sortie du mode furtif avec 13,5 millions de dollars en nouveau financement et son premier produit, NB Defence.
NB Defense est un produit gratuit qui prétend être la première solution de sécurité de l’industrie à résoudre les vulnérabilités d’un composant de base utilisé au début de la chaîne d’approvisionnement de l’apprentissage automatique : Jupyter Notebooks. Ce sont des applications Web qui permettent aux développeurs de créer et de partager documents contenant du code en direct, des équations, des visualisations et d’autres données à des fins de codage, y compris le nettoyage et la transformation des données, la modélisation statistique, la visualisation des données et l’apprentissage automatique.
À ce jour, on pense qu’il y a plus de 10 millions de cahiers Juypter accessibles au public, ce chiffre augmentant de plus de 2 millions par an. On pense également qu’il existe de nombreuses autres installations de Juypter Notebooks dans des référentiels privés.
Protect AI a été fondée par une équipe de direction ayant une expérience commerciale de l’IA travaillant pour Amazon Web Services Inc. et Oracle Corp., dont le co-fondateur et PDG Ian Swanson, qui était auparavant leader mondial de l’IA et de l’apprentissage automatique chez AWS. Le cycle a été codirigé par Acrew Capital et boldstart ventures, avec la participation de Knollwood Capital, Pelion Ventures et Avisio Ventures.
J’ai vu plus de 100 000 clients déployer des systèmes d’IA/ML et j’ai réalisé qu’ils introduisaient une nouvelle et unique surface de menace de sécurité que les solutions de cybersécurité actuelles sur le marché ne traitent pas, a déclaré Swanson dans un communiqué. C’est pourquoi nous avons fondé Protect AI. Les développeurs ML et les équipes de sécurité ont besoin de nouveaux outils, processus et méthodes qui sécurisent leurs systèmes d’IA. »
Swanson a expliqué qu’étant donné que presque tout le code d’apprentissage automatique commence par un ordinateur portable, la société a pensé que c’était l’endroit le plus logique pour commencer à accélérer une transition nécessaire de l’industrie.
« Nous lançons un produit gratuit qui aide à inaugurer cette nouvelle catégorie de MLSecOps pour construire un monde plus sûr alimenté par l’IA, à partir de maintenant », a ajouté Swanson. « Mais nous avons de nombreuses autres innovations qui seront publiées rapidement sur l’ensemble de la chaîne d’approvisionnement ML.
Alors que MLOps a contribué à augmenter la vitesse d’utilisation de l’apprentissage automatique dans la production, les opportunités d’incidents de sécurité ont augmenté et de nouvelles vulnérabilités ont été créées dans la chaîne d’approvisionnement de l’apprentissage automatique d’entreprise. Certains des risques de sécurité incluent les ordinateurs portables Jupyter incompatibles avec les analyseurs de code statiques existants, l’exécution de code arbitraire dans des modèles sérialisés, les données de formation empoisonnées et l’évasion de modèle à l’aide de techniques d’apprentissage automatique contradictoires.
NB Defense crée une couche de traduction à partir des capacités de sécurité traditionnelles pour permettre les analyses des blocs-notes Jupyter, puis communique les résultats de manière native dans le bloc-notes ou via des rapports avec des liens contextuels vers les zones problématiques du bloc-notes pour correction.
L’offre analyse un bloc-notes pour vérifier la base de données standard des vulnérabilités et expositions communes dans les frameworks, bibliothèques et packages d’apprentissage automatique open source, les jetons d’application et autres informations d’identification, ainsi que les licences non permissives dans les frameworks, bibliothèques et packages.
NB Defence est disponible aujourd’hui sous une licence gratuite. Les utilisateurs peuvent installer NB Defense et utiliser l’extension JupyterLab ou l’interface de ligne de commande.