Le « parrain » de l’IA affirme qu’un revenu de base universel sera nécessaire – BBC News
L’informaticien considéré comme le parrain de l’intelligence artificielle affirme que le gouvernement devra établir un revenu de base universel pour faire face à l’impact de l’IA sur les inégalités.
Le professeur Geoffrey Hinton a déclaré à BBC Newsnight qu’une réforme des avantages sociaux accordant des montants fixes à chaque citoyen serait nécessaire, car il était très inquiet de voir l’IA prendre de nombreux emplois banals.
J’ai été consulté par des habitants de Downing Street et je leur ai dit que le revenu de base universel était une bonne idée, a-t-il déclaré.
Il a déclaré que même s’il pensait que l’IA augmenterait la productivité et la richesse, l’argent irait aux riches et non à ceux dont les emplois seraient perdus, ce qui serait très mauvais pour la société.
Le professeur Hinton est le pionnier des réseaux de neurones, qui constituent la base théorique de l’explosion actuelle de l’intelligence artificielle.
Jusqu’à l’année dernière, il travaillait chez Google, mais a quitté le géant de la technologie pour pouvoir parler plus librement des dangers d’une IA non réglementée.
Le concept de revenu de base universel revient à ce que le gouvernement verse à tous les individus un salaire fixe, quels que soient leurs moyens.
Les critiques affirment que cela serait extrêmement coûteux et détournerait les financements des services publics, sans pour autant contribuer à réduire la pauvreté.
Un porte-parole du gouvernement a déclaré qu’il n’était « pas prévu d’introduire un revenu de base universel ».
Le professeur Hinton a réitéré sa préoccupation quant à l’émergence de menaces d’extinction humaine.
Les développements de l’année dernière ont montré que les gouvernements n’étaient pas disposés à freiner l’utilisation militaire de l’IA, a-t-il déclaré, tandis que la concurrence pour développer rapidement des produits signifiait qu’il existait un risque que les entreprises technologiques ne consacrent pas suffisamment d’efforts à la sécurité.
Le professeur Hinton a déclaré que « je suppose que d’ici cinq à vingt ans, il y aura une probabilité que la moitié d’entre eux soient confrontés au problème de l’IA qui tente de prendre le relais ».
Cela entraînerait une menace d’extinction pour les humains, car nous aurions pu créer une forme d’intelligence tout simplement meilleure que l’intelligence biologique. C’est très inquiétant pour nous.
L’IA pourrait évoluer, a-t-il déclaré, pour obtenir la motivation nécessaire pour faire davantage d’elle-même et pourrait développer de manière autonome un sous-objectif consistant à prendre le contrôle.
Il a déclaré qu’il existait déjà des preuves de grands modèles de langage – un type d’algorithme d’IA utilisé pour générer du texte – choisissant d’être trompeurs.
Il a déclaré que les récentes applications de l’IA pour générer des milliers de cibles militaires ne constituaient que la fin du fossé.
Ce qui m’inquiète le plus, c’est quand ceux-ci peuvent prendre de manière autonome la décision de tuer des gens », a-t-il déclaré.
Le professeur Hinton a déclaré que quelque chose de similaire aux Conventions de Genève – les traités internationaux qui établissent des normes juridiques pour le traitement humanitaire en temps de guerre – pourrait être nécessaire pour réglementer l’utilisation militaire de l’IA.
« Mais je ne pense pas que cela se produira avant que des choses très désagréables ne se produisent », a-t-il ajouté.
Lorsqu’on lui a demandé si l’Occident était engagé dans une course à la manière du projet Manhattan – faisant référence à la recherche sur les armes nucléaires pendant la Seconde Guerre mondiale – avec des autocraties telles que la Russie et la Chine sur l’utilisation militaire de l’IA, le professeur Hinton a répondu : [Russian President Vladimir] Poutine a déclaré il y a quelques années que celui qui contrôle l’IA contrôle le monde. J’imagine donc qu’ils travaillent très dur.
« Heureusement, l’Occident est probablement bien en avance sur eux en matière de recherche. Nous sommes probablement encore légèrement en avance sur la Chine. Mais la Chine y consacre davantage de ressources. Et donc, en termes d’utilisations militaires, je pense qu’il va y avoir une course.
Il a déclaré qu’une meilleure solution serait d’interdire les utilisations militaires de l’IA.