L’intelligence artificielle est-elle plus redoutable que les armes nucléaires ?

De toutes les technologies potentiellement nouvelles et révolutionnaires, l’intelligence artificielle (IA) est peut-être la plus perturbatrice de toutes. En termes simples, AI fait référence à des systèmes capables d’effectuer des tâches qui nécessitent normalement une intelligence humaine, telles que la reconnaissance visuelle et vocale, la prise de décision et, peut-être un jour, la réflexion.

Pensée? L’IA a déjà vaincu les meilleurs joueurs d’échecs et Pokémon GO du monde. Supposons que l’IA surpasse l’intelligence des êtres humains. Et alors ?

La super-intelligence de l’IA pourrait-elle guérir le cancer, améliorer le bien-être, corriger le changement climatique et faire face à bon nombre des pires maux de la planète ? Ou une IA ultra-intelligente pourrait-elle se retourner contre l’humanité telle que décrite dans les films Terminator ? Enfin, le potentiel de l’IA est-il exagéré ?

Albert Einsteindécrit l’univers comme fini mais illimité. Cette définition pourrait s’adapter aux futures applications de l’IA. Mais comment le saurons-nous ?

Peut-être que la seule technologie perturbatrice comparable était les armes nucléaires et thermonucléaires. Ces armes ont irréversiblement perturbé et changé la nature, la conduite et le caractère de la politique de guerre. La raison : aucun gagnant, seulement des victimes et des perdants, n’émergerait après qu’un holocauste thermonucléaire ait éviscéré les belligérants.

Quels sont alors les liens communs ?

Les armes nucléaires ont provoqué un débat souvent enflammé sur les implications morales et juridiques et sur quand ou comment ces armes pourraient ou devraient être utilisées à partir d’une première frappe de contre-force contre des cibles militaires pour contre-évaluer les rôles de représailles contre la population et les centres industriels et tactiquement pour limiter l’escalade ou rectifier les déséquilibres des armes conventionnelles. L’IA a relancé le débat sur des questions et des problèmes tout aussi critiques concernant sa place dans la société.

Les armes nucléaires ont finalement conduit à une doctrine et à des règles du jeu pour décourager et empêcher leur propagation et leur utilisation en partie grâce au contrôle des armements. L’IA conduira-t-elle à un régime de réglementation ou la technologie est-elle trop universelle pour un code de gouvernance ?

Les armes nucléaires sont existential. Existe-t-il des conditions dans lesquelles l’IA pourrait devenir aussi dangereuse ? Proliférationde ces armes ont conduit à des accords internationaux pour empêcher leur propagation. Cela s’appliquera-t-il à l’IA ?

Il a été avancé que si une partie gagnait la supériorité sur une autre, un conflit ou un comportement plus agressif s’ensuivrait. L’IA soulève-t-elle des préoccupations similaires ?

Des différences importantes existent. Les armes nucléaires ont affecté la sécurité nationale. L’IA affectera très certainement l’ensemble de la société, tout comme les révolutions industrielle et informatique avec des conséquences positives et négatives.

Deuxièmement, le pouvoir destructeur de ces armes les rendait si importantes. L’IA, à ce stade, a besoin d’un lien intermédiaire pour exercer son plein pouvoir perturbateur. Cependant, ironiquement, à mesure que les sociétés devenaient plus avancées, ces deux révolutions ont eu pour conséquence involontaire de créer également de plus grandes vulnérabilités, faiblesses et dépendances sujettes à des perturbations majeures, voire catastrophiques.

COVID-19, les tempêtes massives, les incendies, les sécheresses et les cyberattaques sont des symptômes indéniables de la puissance des nouvelles attaques massives de perturbation MAD. L’IA est un multiplicateur potentiel par sa capacité à interagir avec ces perturbateurs et d’autres, en exploitant les faiblesses et les vulnérabilités inhérentes à la société et en créant de nouveaux ainsi que de prévenir leurs effets nocifs.

Enfin, contrairement aux armes nucléaires, si elle est utilisée correctement, l’IA aura des avantages énormes et même révolutionnaires pour l’espèce humaine.

La question cruciale est de savoir quels mécanismes peuvent identifier ce que l’ancien secrétaire à la Défense Donald Rumsfeld a appelé les connus connus ; inconnues connues; et des inconnues inconnues concernant l’IA.

Une commission nationale de l’IA vient de terminer ses efforts. Les commissions peuvent souvent enterrer un sujet difficile. La Commission du 11 septembre a fait un travail remarquable. Mais seule une partie de ses recommandations les plus importantes a été mise en œuvre. La formation du Département de la sécurité intérieure et du Bureau du directeur du renseignement national n’a pas apporté la réforme nécessaire car ces agences ont finalement étendu la stratification d’une bureaucratie gouvernementale déjà pléthorique.

Cette critique mise à part, au lieu d’une nouvelle commission de l’IA, il faut créer un conseil de surveillance permanent de l’IA doté d’un financement substantiel de la recherche pour examiner les implications sociétales de l’IA. Les membres devraient être issus du public et des pouvoirs législatif et exécutif du gouvernement.

Le financement devrait aller aux meilleures institutions de recherche, un autre parallèle avec les armes nucléaires. Pendant la guerre froide, le Pentagone a réalisé d’innombrables études couvrant tous les aspects de l’équilibre nucléaire. La même chose doit s’appliquer à l’IA mais avec une portée plus large.

Ce conseil doit également coordonner, assurer la liaison et consulter la communauté internationale, y compris la Chine, la Russie, les alliés, les amis et d’autres pour élargir l’ouverture intellectuelle et en tant que mesures de confiance.

En utilisant les enseignements tirés de l’étude de l’équilibre nucléaire, non seulement l’IA peut atténuer les conséquences potentiellement destructrices. Plus important encore, si elle est correctement utilisée, comme Einstein l’a observé à propos de l’univers, l’IA a des opportunités presque illimitées de faire avancer le bien public.

Harlan Ullman, Ph.D, est le chroniqueur distingué de United Press Internationals Arnaud deBorchgrave. Son dernier livre, qui doit sortir cette année, est The Fifth Horseman and the New MAD: The Tragic History of How Massive Attacks of Disruption Endangered, Infected, Engulfed and Disunited a 51% Nation and the Rest of the World.