Devrions-nous commencer à certifier la cybersécurité pour les solutions d’IA ?
Aujourd’hui les techniques de machine learning et de deep learning font partie de notre quotidien sous le nom d’IA. La technologie de l’IA évolue pour contrer les cyberattaques sophistiquées et destructrices. La cybersécurité de l’IA étant un domaine émergent, les experts s’inquiètent des nouvelles menaces potentielles qui pourraient émerger si les vulnérabilités de la technologie de l’IA sont exposées. Sans un organisme de certification réglementant la technologie de l’IA pour l’utilisation de la cybersécurité, les organisations se trouveront-elles plus à risque et victimes de manipulation ? La certification aura-t-elle un impact sur la cybersécurité de l’IA ?
Élaboration de réglementations mondiales pour les systèmes d’IA
Le 21 avril 2021, la Commission européenne (CE) a publié une proposition décrivant le tout premier cadre juridique sur l’IA. Margrethe Vestager est la vice-présidente exécutive de la Commission européenne pour Une Europe adaptée à l’ère numérique. Elle décrit les règles historiques comme un moyen pour l’UE de diriger le développement de nouvelles normes mondiales pour s’assurer que l’IA est digne de confiance. Le commissaire chargé du marché intérieur, Thierry Breton, ajoute que le nouveau règlement sur l’IA offre un immense potentiel dans des domaines aussi divers que la santé, les transports, l’énergie, l’agriculture, le tourisme ou la cybersécurité.
Cependant, le potentiel d’émergence de nouveaux risques ne peut être ignoré. La Commission propose des exigences pour le renforcement des systèmes d’IA. En particulier ceux qui peuvent être utilisés pour contourner ou manipuler le comportement humain. Certains systèmes d’IA considérés comme présentant le risque le plus élevé s’ils sont manipulés : infrastructures de transport, plates-formes éducatives, procédures assistées par robot, notation de crédit, évaluations de preuves et authentification de documents.
Renforcement Certifications de cybersécurité IA pour maintenir la responsabilité
Selon Stefanie Lindstaedt, PDG du Know-Center, un centre de recherche européen de premier plan sur l’IA, le potentiel de l’IA en Europe ne sera exploité que si la fiabilité du traitement des données, ainsi que des algorithmes équitables, fiables et sécurisés, peuvent être démontré.
Parce que la sécurité de l’IA doit être renforcée pour atténuer les risques et maintenir la responsabilité, les experts donnent leur avis et formulent des recommandations. Le Centre d’études des politiques européennes (CEPS) Le groupe de travail sur l’IA et la cybersécurité a proposé ce qui suit :
- Maintenir et sécuriser les journaux documentant le développement et le codage des systèmes d’IA
- Suivre les paramètres du modèle chaque fois que l’apprentissage automatique est utilisé
- Pedigrees cyber-sécurisés pour les bibliothèques de logiciels liées aux codes
- Pedigrees cyber-sécurisés pour les bibliothèques de données utilisées pour la formation d’algorithmes d’apprentissage automatique
- Preuve démontrant la diligence raisonnable lors du test de la technologie d’IA
- Tirer parti de techniques telles que la randomisation, l’apprentissage d’ensemble et la prévention du bruit pour améliorer la fiabilité et la reproductibilité de l’IA
- Rendre les informations disponibles pour l’audit des modèles et l’analyse ultérieure, en particulier aux points de défaillance
- Autoriser les audits du système en concevant des méthodes qui peuvent également être réalisées par des tiers de confiance.
En aidant à promouvoir l’IA en tant que solution puissante pour contrer les cyberattaques, quelques organisations ont déjà investi dans le développement de méthodologies et d’outils pour apporter confiance et valeur aux clients et permettre des évaluations de la cybersécurité qui démontrent qu’elles sont sécurisées et éthiques à déployer.
Enfin, la conformité aux normes et réglementations est essentielle pour permettre la confiance dans l’IA. Alors que les organisations et les individus continuent de compter de plus en plus sur l’IA, il y aura sûrement des demandes croissantes en matière de cybersécurité. Les normes et les réglementations sont un moyen d’instaurer la confiance entre l’IA et les utilisateurs.