La nouvelle plate-forme HiddenLayer protège les modèles d’apprentissage automatique – SiliconANGLE
Cybersécurité pour la startup de modèles d’apprentissage automatique HiddenLayer Inc. a annoncé aujourd’hui le lancement public d’une nouvelle plate-forme de cybersécurité d’intelligence artificielle qui permet aux opérations de sécurité et aux équipes de science des données de protéger leurs investissements en IA contre les attaques d’apprentissage automatique contradictoires.
La plate-forme HiddenLayerMLSec comprend les produits phares de la société, HiddenLayer MLDR, ModelScanner et Security Audit Reporting. HiddenLayer MLDR utilise une approche basée sur l’apprentissage automatique pour analyser les événements de modèle en temps réel afin d’identifier les activités malveillantes sans nécessiter l’accès aux modèles de l’organisation ou aux données de formation sensibles.
La société affirme que les attaques d’apprentissage automatique contradictoires sont le développement le plus récent et le plus destructeur du paysage des menaces, ciblant une technologie avancée et importante. Les attaques seraient une évolution des menaces de cybersécurité traditionnelles telles que les logiciels malveillants, les rançongiciels, le phishing, le spam et les violations de données, et les environnements modernes ne sont pas prêts à s’en défendre.
Les parties de la plate-forme comprennent une défense en temps réel, des options de réponse flexibles et des paramètres configurables adaptés aux besoins d’une entreprise. Le ModelScanner analyse et garantit l’intégrité du modèle en identifiant les vulnérabilités et en s’assurant que les modèles n’ont pas été compromis par des injections de code malveillant.
Les rapports d’audit de sécurité valident la sécurité du modèle d’apprentissage automatique dans toute l’entreprise, offrant une vue complète de l’état de sécurité des actifs d’IA et d’apprentissage automatique. Un tableau de bord à la demande et des rapports distribuables sont accompagnés d’une hiérarchisation des vulnérabilités.
L’adoption rapide de l’IA/ML introduit une nouvelle surface d’attaque à exploiter pour les acteurs de la menace, nous avons donc besoin des outils et des connaissances pour pouvoir faire la lumière sur les domaines où nos modèles d’apprentissage automatique sont les plus vulnérables aux attaques, a expliqué Malcolm Harkins, chef de la sécurité et agent de confiance chez Epiphany Systems Inc., l’un des clients existants de HiddenLayer. L’équipe HiddenLayer est composée d’experts en la matière dans le domaine de l’intelligence artificielle et de la cybersécurité. Ils ont développé des produits qui permettent à nos équipes des opérations de sécurité de garder une longueur d’avance sur les nouvelles menaces de l’IA.
En plus de l’annonce de la nouvelle plate-forme, HiddenLayer recherche également des partenaires de conception précoces qui cherchent à répondre à leurs besoins en matière de cybersécurité alors qu’ils augmentent leurs investissements dans l’IA et souhaitent le faire en toute sécurité.
HiddenLayer est une startup soutenue par du capital-risque qui a levé 6 millions de dollars à ce jour. Selon Crunchbase, les investisseurs de la société comprennent Ten Eleven Ventures.