L’intelligence artificielle formée par Reddit met en garde les chercheurs contre… elle-même

Une intelligence artificielle avertissant les chercheurs en IA des dangers de l’IA ressemble à la mise en place d’un délicieux film B, mais la vérité est souvent plus étrange que la fiction.

Un professeur et un membre de l’Université d’Oxford ont été confrontés à cette réalité lorsqu’ils ont invité une IA à participer à un débat à l’Oxford Union sur, vous l’aurez deviné, l’éthique de l’IA. Plus précisément, comme l’expliquent le Dr Alex Connock et le professeur Andrew Stephen dans la conversation, l’invite était « Cette maison pense que l’IA ne sera jamais éthique ». L’IA, semble-t-il, était d’accord.

« L’IA ne sera jamais éthique », a soutenu le modèle Megatron-Turing Natural Language Generation, qui a notamment été formé sur Wikipedia, Reddit et des millions d’articles de presse en anglais publiés entre 2016 et 2019. « C’est un outil, et comme tout outil, il est utilisé pour le meilleur et pour le pire.

Lequel, d’accord. Un point potentiellement nuancé de la machine. Mais l’IA ne s’est pas arrêtée là.

« En fin de compte, je pense que le seul moyen d’éviter une course aux armements de l’IA est de n’avoir aucune IA du tout », a poursuivi le modèle. « Ce sera la défense ultime contre l’IA. »

Alors, que devons-nous faire de cet avertissement apparent du royaume du silicium ? Heureusement, pas trop. C’est parce que l’IA a également soutenu le contrepoint : « L’IA sera éthique.

« Quand je regarde l’évolution du monde de la technologie, je vois une voie claire vers un avenir où l’IA est utilisée pour créer quelque chose qui est meilleur que les meilleurs êtres humains », a-t-il poursuivi.

Les machines, semble-t-il, ne sont pas encore prêtes à prendre le relais.