Revue de l’OTAN – Une stratégie d’intelligence artificielle pour l’OTAN réunion d’octobre 2021

Avec de nouvelles opportunités, risques et menaces pour la prospérité et la sécurité en jeu, les promesses et les dangers associés à cette technologie fondamentale sont trop vastes pour qu’un seul acteur puisse les gérer seul. En conséquence, la coopération est intrinsèquement nécessaire pour atténuer également les risques de sécurité internationale, ainsi que pour capitaliser sur le potentiel des technologies pour transformer les fonctions de l’entreprise, le soutien aux missions et les opérations.

La capacité continue de l’Alliance à dissuader et à se défendre contre tout adversaire potentiel et à répondre efficacement aux crises émergentes dépendra de sa capacité à maintenir son avance technologique. Sur le plan militaire, la pérennité de l’avantage comparatif des forces alliées dépendra d’une base politique commune et d’une épine dorsale numérique pour assurer l’interopérabilité et la conformité avec le droit international.

Avec la fusion des éléments humains, informationnels et physiques déterminant de plus en plus l’avantage décisif dans l’espace de combat, l’interopérabilité devient d’autant plus essentielle. De plus, à mesure que les concurrents et les adversaires potentiels investissent dans l’IA à des fins militaires, veiller à ce que les Alliés développent des réponses communes pour assurer leur sécurité collective ne deviendra que plus urgent.

Avec l’adoption formelle de la stratégie d’IA de l’OTAN, les Alliés se sont engagés à la coopération et à la collaboration nécessaires pour relever ces défis à la fois en matière de défense et de sécurité, faisant de l’OTAN le principal forum transatlantique.

L’objectif de la stratégie de l’OTAN en matière d’IA est d’accélérer l’adoption de l’IA en améliorant les principaux catalyseurs de l’IA et en adaptant la politique, notamment en adoptant des principes d’utilisation responsable de l’IA et en se prémunissant contre les menaces d’utilisation malveillante de l’IA par des acteurs étatiques et non étatiques.

En agissant collectivement par l’intermédiaire de l’OTAN, les gouvernements alliés veillent également à ce que l’accent soit mis sur l’interopérabilité et l’élaboration de normes communes. Dans l’ensemble, avec des écosystèmes d’innovation impliquant différents acteurs et des cycles de vie technologiques plus rapides que ceux généralement inclus dans les systèmes traditionnels de développement des capacités,

la stratégie de l’OTAN en matière d’IA reconnaît également que l’exploitation de l’IA nécessitera de nouveaux efforts pour favoriser et exploiter le potentiel d’innovation de l’Alliance, notamment par le biais de nouveaux partenariats. et mécanismes. Ensemble, ces efforts renforceront à leur tour la capacité de l’Alliance à poursuivre ses efforts de coopération en matière de sécurité et à s’engager avec des partenaires internationaux et d’autres organisations internationales sur des questions de sécurité internationale.

L’adoption de l’IA dans le contexte de la défense et de la sécurité nécessite également une gouvernance efficace et responsable, conforme aux valeurs communes et aux engagements internationaux des nations alliées. À cette fin, les gouvernements alliés se sont engagés à respecter les principes d’utilisation responsable en tant qu’élément clé de la stratégie d’IA de l’OTAN.

Les Alliés et l’OTAN s’engagent à garantir que les applications d’IA qu’ils développent et envisagent de déployer seront conformes aux six principes suivants :

Après avoir accepté d’adopter ces principes qui se renforcent mutuellement, la tâche consiste maintenant à les traduire en action fondée sur des principes. En tant que tel, le rôle de l’OTAN dans la mise en œuvre de ces principes impliquera des efforts qui abordent de la même manière différents aspects du cycle de vie des technologies. Il est important d’intégrer les principes d’utilisation responsable en amont du développement de l’IA, car plus ils sont pris en compte tardivement, plus il peut être difficile de s’assurer qu’ils sont respectés.

Garantir une approche du cycle de vie complet dépend également de l’engagement multipartite, car la responsabilité est répartie entre les décideurs, les concepteurs, les développeurs et les testeurs, ainsi que les utilisateurs finaux opérationnels qui s’engagent dans le développement et l’utilisation de l’IA. Pour l’OTAN, cela est pertinent parce que diverses entités jouent un rôle actif dans l’intégration de l’IA et parce que l’Alliance peut encourager la cohérence avec les développements nationaux de l’IA.

Pour l’OTAN, l’engagement commun envers ces principes présente également des avantages pratiques, fournissant une base commune cohérente à l’OTAN et aux Alliés pour concevoir et développer des applications d’IA tout en soutenant les objectifs d’interopérabilité. En tant que telle, l’OTAN peut favoriser les liens nécessaires entre la sûreté, la sécurité, l’utilisation responsable et l’interopérabilité. Cela se voit à travers les principes.

Par exemple, il est important de s’assurer que les systèmes d’IA sont suffisamment robustes et fiables pour l’usage auquel ils sont destinés, non seulement pour qu’ils puissent fonctionner conformément aux obligations légales, mais aussi pour atténuer les risques de défaillances ou de limitations des systèmes. exploités par des acteurs infâmes.

Ces principes durables sont également à la base de la discussion et de l’adoption de pratiques exemplaires et de normes plus détaillées. Les Alliés et l’OTAN peuvent tirer parti des mécanismes consultatifs de l’OTAN et du personnel et des installations spécialisés de l’OTAN pour œuvrer activement à la réalisation de cet objectif. Les propres efforts de normalisation et de certification de l’OTAN peuvent également être renforcés par la cohérence avec les organismes internationaux de normalisation compétents, y compris pour les normes d’IA civile.

En plus des meilleures pratiques et normes, ces principes peuvent également être opérationnalisés via d’autres mécanismes, notamment des méthodologies d’examen, des évaluations des risques et de l’impact et des exigences de certification de sécurité telles que des cadres d’analyse des menaces et des audits, entre autres. En outre, les activités de coopération de l’OTAN fournissent la base pour tester, évaluer, valider et vérifier (TEVV) les capacités activées par l’IA dans divers contextes différents.

Plus précisément, l’expérience de l’OTAN non seulement dans les opérations, mais aussi dans les essais, les exercices et l’expérimentation offrent plusieurs voies par lesquelles les Alliés et l’OTAN peuvent tester les principes par rapport aux cas d’utilisation prévus. Ceci est encore renforcé par les communautés scientifiques et techniques de l’OTAN, qui ont travaillé sur des questions telles que la confiance, les interactions homme-machine et machine-machine, et l’intégration homme-systèmes, entre autres.

En plus de ces activités existantes, la mise en œuvre de la stratégie d’IA bénéficiera également de connexions avec le futur accélérateur d’innovation de défense pour l’Atlantique Nord (DIANA) de l’OTAN. Les centres d’essais alliés affiliés à la DIANA pourraient être utilisés pour atteindre les objectifs énoncés dans les définitions des principes.

À l’avenir, l’utilisation de ces centres de test peut aider à garantir que l’adoption et l’intégration de l’IA sont testées pour la robustesse et la résilience. Par exemple, pour garantir que l’IA est traçable, fiable et atténuant les biais, les centres de test pourraient synthétiser les performances des systèmes d’IA dans différents environnements simulés et sur différentes données de test, ou fournir une validation et une vérification indépendantes pour évaluer la conformité aux normes axées sur une ingénierie responsable. les pratiques.

En adoptant des principes d’utilisation responsable, l’OTAN et les Alliés envoient un message délibérément public à leurs populations nationales, aux forces alliées et aux autres États, réitérant les valeurs et les engagements durables de l’Alliance en vertu du droit international. Plus qu’une simple obligation, cet engagement démocratique est également une condition préalable aux bases politiques communes entre les Alliés et au partenariat avec les innovateurs non traditionnels dans toute l’Alliance.

Avec les aspects éthiques de l’adoption que les principes soulignent, l’OTAN a la possibilité de signaler et de donner suite à la responsabilité au cœur de ses efforts de sensibilisation. Cela inclut l’engagement avec les start-ups, les petites et moyennes entreprises innovantes et les chercheurs universitaires qui n’ont pas envisagé de travailler sur des solutions de défense et de sécurité, ou trouvent simplement les voies d’adoption trop lentes ou restrictives pour leurs modèles commerciaux.

Contrairement au développement des plates-formes militaires traditionnelles, l’intégration de l’IA implique des cycles de rafraîchissement rapides et nécessite une mise à niveau constante. Cela nécessite un changement de mentalité pour le développement itératif et adaptatif des capacités, contrairement aux cycles de développement séquentiels qui prennent des années pour fournir un petit nombre de plates-formes hautement sophistiquées.

Avec des acteurs étatiques et non étatiques hostiles augmentant leurs investissements dans les technologies émergentes et perturbatrices, y compris l’IA, cette approche plus flexible de l’adoption est d’autant plus urgente. Dans ce contexte, en mettant l’accent sur le TEVV et les activités collaboratives, la stratégie d’IA définit le cadre des catalyseurs technologiques pour sur-adapter les concurrents et les adversaires. En mettant davantage l’accent sur l’agilité et l’adaptation, l’OTAN peut faire de la défense et de la sécurité un secteur plus attrayant pour les innovateurs civils, tout en leur permettant de conserver d’autres opportunités commerciales.

Ce faisant, les efforts visant à renforcer l’écosystème d’innovation transatlantique peuvent également servir de rempart contre les investissements étrangers et les transferts de technologie indésirables.l les utilisateurs finaux qui s’engagent dans le développement et l’utilisation de l’IA. Pour l’OTAN, cela est pertinent parce que diverses entités jouent un rôle actif dans l’intégration de l’IA et parce que l’Alliance peut encourager la cohérence avec les développements nationaux de l’IA.

Ce travail nécessite une coordination dans l’ensemble de l’entreprise NATO. En effet, plusieurs parties prenantes au sein de l’entreprise NATO sont déjà impliquées dans l’élaboration de cas d’utilisation, de concepts et de programmes liés à l’IA. Avec la stratégie d’IA, ces activités peuvent gagner en cohérence pour garantir l’existence de connexions appropriées entre toutes les parties prenantes de l’innovation, y compris les utilisateurs finaux opérationnels.

Certes, la mise en œuvre d’une adoption accélérée, fondée sur des principes et interopérable de l’IA dépend non seulement de la technologie, mais également des personnes talentueuses et habilitées qui font avancer l’état de l’art technologique et l’intégration.

L’OTAN a également accordé une attention particulière à d’autres apports de l’IA, notamment par le biais de l’élaboration d’une politique-cadre d’exploitation des données de l’OTAN. Avec des actions pour traiter les données comme un actif stratégique, développer des outils d’analyse et stocker et gérer les données dans l’infrastructure appropriée, la politique du cadre d’exploitation des données définit les conditions du succès des stratégies d’IA.

Outre les interrelations entre les données et l’IA, il sera essentiel d’assurer la cohérence entre les efforts de l’OTAN sur l’IA et d’autres technologies émergentes et perturbatrices telles que l’autonomie, la biotechnologie et l’informatique quantique. Alors que les Alliés et l’OTAN cherchent à atteindre l’objectif de cette stratégie d’IA, les liens entre l’utilisation responsable, l’adoption accélérée, l’interopérabilité et la protection contre les menaces sont essentiels.

En effet, ces liens s’appliqueront également aux travaux de suivi de l’OTAN sur d’autres technologies émergentes et perturbatrices, y compris l’élaboration de principes d’utilisation responsable. Plus généralement, cela implique une plus grande cohérence entre les axes de travail sur ces technologies, sachant que l’avance technologique future de l’OTAN et les menaces auxquelles l’Alliance sera confrontée peuvent dépendre de leur convergence.

En tant que telle, non seulement la stratégie d’IA de l’OTAN s’applique à cette technologie fondamentale, mais elle prépare également le terrain pour les ambitions de l’OTAN et des Alliés en ce qui concerne d’autres technologies émergentes et perturbatrices. Pour chacun d’entre eux, l’avantage stratégique futur des efforts d’innovation de l’OTAN découlera des liens entre le leadership éthique, l’adoption itérative et l’intégration qui valorise la flexibilité, l’interopérabilité et la confiance.