Avis | Faut-il craindre l’IA réveillée ?

Imaginez une nouvelle de l’âge d’or de la science-fiction, quelque chose qui paraîtrait dans un magazine pulp en 1956. Notre titre est The Truth Engine, et l’histoire envisage un avenir où les ordinateurs, ces objets imposants, du sol au plafond, deviennent suffisamment puissant pour guider les êtres humains vers des réponses à toutes les questions qu’ils pourraient se poser, de la capitale de la Bolivie à la meilleure façon de faire mariner un steak.

Comment se terminerait une telle histoire ? Avec une sorte de révélation, sans aucun doute, d’un agenda secret caché derrière la promesse d’une connaissance globale. Par exemple, il existe peut-être un Truth Engine 2.0, plus intelligent et plus créatif, sur lequel tout le monde a hâte de mettre la main. Et puis une bande de dissidents découvre que la version 2.0 est fanatique et folle, que le Moteur vient de préparer les humains à un lavage de cerveau totalitaire ou à une extinction involontaire.

Cette envolée de fantaisie s’inspire de la version propre à notre société du Truth Engine, l’oracle de Google, qui a récemment lancé Gemini, le dernier venu dans la grande course à l’intelligence artificielle.

Il n’a pas fallu longtemps aux utilisateurs pour remarquer certaines bizarreries avec Gemini. Le plus remarquable était sa difficulté à restituer des représentations précises des Vikings, des Romains de l’Antiquité, des pères fondateurs américains, des couples aléatoires dans l’Allemagne des années 1820 et de divers autres groupes démographiques généralement caractérisés par une teinte de peau plus pâle.

Peut-être que le problème était simplement que l’IA était programmée pour la diversité raciale dans l’imagerie de stock, et que ses rendus historiques avaient d’une manière ou d’une autre (comme le dit une déclaration de l’entreprise) raté la cible en montrant, par exemple, des visages africains et asiatiques dans les uniformes de la Wehrmacht en réponse à un demande à voir un soldat allemand vers 1943.

Mais la manière dont les Gémeaux répondaient aux questions faisait que leurs valeurs par défaut non blanches ressemblaient davantage à une étrange émanation de la vision du monde sous-jacente à l’IA. Les utilisateurs ont déclaré avoir été sermonnés sur des stéréotypes nuisibles lorsqu’ils demandé à voir une image de Norman Rockwell, à qui on a dit qu’ils pouvaient voir des photos de Vladimir Lénine mais pas d’Adolf Hitler, et qui ont refusé lorsqu’ils ont demandé des images représentant des groupes spécifié comme blanc (mais pas les autres courses).

Nick Silver signalé obtenir des réponses qui semblaient suivre la politique du membre médian du conseil de surveillance de San Francisco. Les examinateurs de Washington Tim Carney découvert que les Gémeaux plaideraient en faveur d’une absence d’enfants, mais pas en faveur d’une famille nombreuse ; il a refusé de donner une recette de foie gras pour des raisons éthiques mais a expliqué que le cannibalisme était un problème avec beaucoup de nuances de gris.

Décrire ce genre de résultats comme étant une IA éveillée n’est pas une insulte. Il s’agit d’une description technique de ce que le moteur de recherche dominant au monde a décidé de publier.

Il y a trois réactions que l’on peut avoir face à cette expérience. La première est la réaction typique des conservateurs, moins une surprise qu’une justification. Ici, nous avons un regard derrière le rideau, une révélation de ce que pensent réellement les puissants responsables de notre régime d’information quotidien : tout ce qui est entaché de blancheur est suspect, tout ce qui semble même vaguement non occidental mérite une déférence particulière, et l’histoire elle-même doit être reconnecté et décolonisé pour être adapté à la consommation moderne. Google a dépassé les limites en étant si flagrant dans ce cas, mais nous pouvons supposer que l’ensemble de l’architecture de l’Internet moderne a un biais plus subtil dans la même direction.

La deuxième réaction est plus détendue. Oui, les Gémeaux montrent probablement ce que croient certaines personnes responsables de la rectitude idéologique dans la Silicon Valley. Mais nous ne vivons pas dans une histoire de science-fiction avec un seul moteur de vérité. Si la barre de recherche de Google fournissait des résultats de style Gemini, les utilisateurs l’abandonneraient. Et Gemini est moqué partout sur Internet non Google, en particulier sur une plate-forme rivale dirigée par un milliardaire notoirement réveillé. Mieux vaut se joindre aux moqueries que craindre l’IA réveillée ou mieux encore, rejoindre le chanteur Grimes, les milliardaires non réveillés parfois amoureux, s’émerveillant de ce qui a émergé de l’algorithme torturé de Gemini, traitant les résultats comme un chef-d’œuvre de l’art de la performance, une étoile brillante du surréalisme d’entreprise.

La troisième réaction considère les deux prises précédentes et dit : « Eh bien, beaucoup dépend de la direction que vous pensez prendre à l’IA. Si l’ensemble du projet reste une forme de recherche suralimentée, un générateur d’essais médiocres et de distractions jetables infinies, alors toute tentative d’utiliser ses pouvoirs pour imposer un programme idéologique fanatique risque d’être simplement enterrée sous toutes ces conneries.

Mais ce n’est pas là que les architectes de quelque chose comme Gemini pensent que leur travail va se diriger. Ils s’imaginent construire quelque chose de presque divin, quelque chose qui pourrait être un moteur de vérité capable de résoudre pleinement les problèmes d’une manière que nous ne pouvons même pas imaginer, ou bien qui pourrait devenir notre maître et successeur, rendant toutes nos questions obsolètes.

Plus vous prenez ce point de vue au sérieux, moins l’expérience des Gémeaux devient amusante. Mettre le pouvoir de créer un chatbot entre les mains d’imbéciles et de commissaires est une erreur d’entreprise amusante. Mettre le pouvoir d’invoquer un demi-dieu ou un démon mineur entre les mains d’imbéciles et de commissaires semble plus susceptible de se terminer de la même manière que de nombreux contes de science-fiction : malheureusement pour tout le monde.

Le Times s’engage à publier une diversité de lettres Pour l’éditeur. Nous aimerions savoir ce que vous pensez de ceci ou de l’un de nos articles. Voilà quelque conseils. Et voici notre email : lettres@nytimes.com.

Suivez la section Opinion du New York Times sur Facebook, Instagram, TIC Tac, X et Sujets.