Avis | Pourquoi l’intelligence artificielle est désormais au cœur des préoccupations d’Henry Kissinger
Kissinger a décrit l’IA comme la nouvelle frontière du contrôle des armements lors d’un forum à la cathédrale nationale de Washington le 16 novembre. Si les principales puissances ne trouvent pas de moyens de limiter la portée des IA, a-t-il déclaré, c’est simplement une course folle vers une catastrophe.
L’avertissement de Kissinger, l’un des hommes d’État et stratèges les plus éminents au monde, est un signe de l’inquiétude mondiale croissante concernant le pouvoir des machines pensantes lorsqu’elles interagissent avec les affaires, la finance et la guerre mondiales. Il a parlé par connexion vidéo lors d’un forum de la cathédrale intitulé L’homme, la machine et Dieu, qui était le sujet de cette année dans le programme annuel Nancy et Paul Ignatius, nommé en l’honneur de mes parents.
Les préoccupations de Kissinger concernant l’IA ont été reprises par deux autres panélistes : Eric Schmidt, ancien directeur général de Google et président de la Commission de sécurité nationale sur l’intelligence artificielle, nommée par le Congrès, qui a publié son rapport l’année dernière ; et Anne Neuberger, conseillère adjointe à la sécurité nationale de l’administration Biden pour la cyber et les technologies émergentes.
L’ancien secrétaire d’État a averti que les systèmes d’IA pourraient transformer la guerre tout comme ils ont des échecs ou d’autres jeux de stratégie, car ils sont capables de faire des mouvements qu’aucun humain n’envisagerait mais qui ont des conséquences dévastatrices. Ce dont je parle, c’est qu’en explorant les questions légitimes que nous leur posons, ils arrivent à des conclusions qui ne seraient pas nécessairement les mêmes que nous et nous devrons vivre dans leur monde, a déclaré Kissinger.
Nous sommes entourés de nombreuses machines dont nous ne connaissons peut-être pas la véritable pensée, a-t-il poursuivi. Comment intégrez-vous des contraintes dans les machines ? Aujourd’hui encore, nous avons des avions de chasse qui peuvent livrer des batailles aériennes sans aucune intervention humaine. Mais ce ne sont que les débuts de ce processus. C’est l’élaboration 50 ans plus tard qui sera ahurissante.
Kissinger a appelé les dirigeants des États-Unis et de la Chine, les géants mondiaux de la technologie, à entamer un dialogue urgent sur la manière d’appliquer les limites et les normes éthiques à l’IA.
Une telle conversation pourrait commencer, a-t-il dit, avec le président Biden disant au président chinois Xi Jinping : Nous avons tous les deux beaucoup de problèmes à discuter, mais il y a un problème primordial à savoir que vous et moi, de manière unique dans l’histoire, pouvons détruire le monde par nos décisions à ce sujet. [AI-driven warfare], et il est impossible d’obtenir un avantage unilatéral à cet égard. Donc, nous devrions donc commencer par le principe numéro un que nous ne mènerons pas une guerre de haute technologie les uns contre les autres.
Les dirigeants américains et chinois pourraient entamer un dialogue sur la sécurité de haute technologie, a suggéré Kissinger, avec un accord pour créer dans un premier temps des institutions relativement petites dont le travail sera d’informer [national leaders] sur les dangers, et qui pourraient être en contact les uns avec les autres sur la façon d’atténuer les risques. La Chine a longtemps résisté aux négociations sur le contrôle des armements nucléaires du type de celles que Kissinger a menées avec l’Union soviétique pendant ses années en tant que conseiller à la sécurité nationale et secrétaire d’État.
Les responsables américains disent que les Chinois ne discuteront pas de la limitation des armes nucléaires tant qu’ils n’auront pas atteint la parité avec les États-Unis et la Russie, dont les armes ont été plafonnées par une série d’accords commençant par le traité SALT de 1972, négocié par Kissinger.
Le pouvoir de changer le monde de l’IA est devenu une préoccupation majeure pour Kissinger à la fin des années 90, avec Schmidt comme guide. Les deux ont co-écrit un livre l’année dernière avec le professeur du MIT Daniel Huttenlocher intitulé The Age of AI: And Our Human Future, qui décrit les opportunités et les dangers de la nouvelle technologie.
Le premier commentaire public majeur de Kissinger sur l’IA était un essai de 2018 dans le magazine Atlantic intitulé How the Enlightenment Ends. Le sous-titre de l’article résumait son message effrayant : Philosophiquement, intellectuellement à tous égards, la société humaine n’est pas préparée à l’essor de l’intelligence artificielle.
Kissinger a déclaré au public de la cathédrale que malgré toute la destructivité des armes nucléaires, ils n’ont pas cela [AI] capacité de se lancer sur la base de sa perception, sa propre perception, du danger ou de choisir des cibles.
Lorsqu’on lui a demandé s’il était optimiste quant à la capacité de l’humanité à limiter les capacités destructrices de l’IA lorsqu’elle est appliquée à la guerre, Kissinger a répondu : Je conserve mon optimisme dans le sens que si nous ne le résolvons pas, cela nous détruira littéralement. Nous avons pas le choix.