Le pape fanfaron est un faux IA et un premier aperçu d’une nouvelle réalité

Les images générées par l’IA sont déjà devenues virales, mais aucune ne s’est propagée aussi loin qu’une photo du pape portant ce qui ne peut être décrit que comme une veste bouffante. Appelez-le le Souverain Pontife. L’évêque de Balenciaga. Le vicaire du goutte à goutte.

La photo semble avoir été publiée pour la première fois en ligne vendredi, soumise à un subreddit pour le générateur d’images AI Midjourney. Au cours du week-end, il s’est répandu sur Twitter et d’autres réseaux sociaux, d’abord en tant que mème, puis en tant que sujet de démystification. Dimanche, Chrissy Teigen était tweeter à ce sujet un indicateur fiable qu’une blague sur Internet est devenue courante.

Je pensais que la doudoune des papes était réelle et je n’y ai pas réfléchi. Je ne survivrai pas à l’avenir de la technologie, a tweeté Teigen, résumant les réponses de nombreux internautes. Dans ses réponses, quelqu’un a dit qu’il pensait l’appeler généré par l’IA était la blague, et Teigen a répondu: Oh mec maintenant je suis vraiment confus. Est-ce que c’est réel?? je me deteste lol.

L’image est définitivement fausse. Non seulement il a été publié sur le subreddit Midjourney aux côtés de trois alternatives (Midjourney génère généralement quatre images en réponse à chaque invite), mais il contient également des signes révélateurs de la génération d’IA, y compris un certain nombre de zones où les détails sont manifestement maculés. Il y a la main pas tout à fait qui ne saisit pas tout à fait une tasse de café pas tout à fait ; un crucifix sans angles droits qui représente Jésus s’il a été sculpté dans l’argile et assis dessus ; et le bord d’une lentille de lunettes qui se transforme d’une manière ou d’une autre en sa propre ombre, tous indicatifs de la génération de l’IA : produits d’un système qui connaît la surface de la réalité mais pas les règles sous-jacentes qui régissent l’interaction des objets physiques.

Et pourtant, pointer du doigt tout cela relève du pédantisme car l’image indéniablement regards réel pour une certaine définition du réel, en tout cas. Si vous l’avez fait défiler dans votre flux vendredi, vous n’y avez probablement pas réfléchi à deux fois, peut-être en tweetant au pape un dripgod, puis en poursuivant votre journée.

Mais il est utile d’analyser pourquoi cette image particulière est devenue virale, car elle en dit long sur la façon dont les contrefaçons d’IA seront partagées et diffusées dans les mois à venir. (Pas plus que cela, cependant : le champ évolue trop rapidement pour que les prédictions restent plus longtemps que les restes congelés.) Pour être plus précis, l’image est devenue virale car elle représente un alignement particulier du sujet et de l’esthétique, elle fonctionne comme un faux précisément parce que cela correspond aux façons dont nous consommons déjà des images aujourd’hui.

D’abord, il y a le sujet : le pape lui-même. Comme l’a noté le journaliste Ryan Broderick sur Twitter, il y a quelque chose de particulier dans l’image du pape qui donne du crédit au faux. Ma théorie quant à la raison pour laquelle il en trompe tant (moi y compris au départ) est que le pape existe esthétiquement dans la même étrange vallée que la plupart des arts de l’IA, tweeté Broderick. Pour être plus explicite : le pape est connu pour porter des vêtements élégants, et les images de lui deviennent souvent virales à cause de cela.

En tant que prévisionniste de tendance Ayesha Siddiqi indiqué, l’association entre l’évêque de Rome et la mode italienne est si forte que le Vatican a été contraint de démystifier les rumeurs selon lesquelles le pape porte des mocassins de créateurs. (Le pape, en résumé, ne porte pas de Prada, mais le Christ était la réfutation officielle.) Et il y a tellement de photos fantaisistes du pape François flottant sur le Web que d’autres ont pu associez ce récent faux AI avec de vrais exemples, comme le pape signant une Lamborghini. C’est ce contraste entre l’autorité spirituelle des papes et la fanfaronnade matérielle qui fait si souvent de l’homme un mème. (Cela et le fait qu’il tweete vraiment bien.)

Mais tout aussi important, le fait que le pape soit un célébrité rend les images incroyables de lui intrinsèquement plus crédibles. Cela est dû au style d’image créé par les générateurs d’art AI. C’est un look spécifique étroitement associé au logiciel Midjourneys, qui a reçu une mise à jour il y a quelques semaines améliorant la qualité de sa sortie et qui a, à son tour, créé une mini vague de faux IA crédibles circulant actuellement sur le Web. (Cela aide également qu’il y ait beaucoup de photos de célébrités dans les données d’entraînement de Midjourneys, ce qui les rend plus faciles à générer.)

Appelons ce style hyperréalisme. Premièrement, parce que c’est l’adjectif souvent utilisé dans les textes qui incite à générer de telles images, et deuxièmement, parce qu’il relie l’esthétique au concept de Jean Baudrillard de l’hyperréel, une culture dans laquelle les simulations remplacent la réalité.

L’hyperréalisme dans le contexte des images IA est une esthétique définie par un éclairage parfait et des surfaces brillantes, par des poses dramatiques et des couleurs saturées. C’est stylisé et exagéré le genre d’image que nous associons déjà aux célébrités, dont les ressemblances sont reproduites avec une telle abondance et délibération qu’elles semblent souvent déjà fausses. Ce qui est intéressant (et relie l’esthétique de l’hyperréalisme de l’IA à la philosophie de Baudrillard), c’est que de nombreux membres de la communauté artistique de l’IA décrivent ces images comme photoréaliste quand ils sont clairement caricaturaux. Pour ces personnes, ce qui est réel est le résultat des systèmes d’IA : c’est la simulation qui déplace la réalité.

Je pense que ce sont ces facteurs réunis qui expliquent pourquoi certaines images d’IA sont devenues virales récemment. Le pape swag n’est pas le seul. Vous avez peut-être vu de fausses photos de Elon Musk main dans la main avec AOC; le président français Emmanuel Macron traversant des nuages ​​de gaz lacrymogène ; ou l’arrestation de Donald Trump. Dans chaque cas, la célébrité du sujet nous pousse à en croire nos yeux, tout comme le contenu, qui est souvent lié à des événements récents (manifestations en France, rumeur d’inculpation de Trump, Musk étant un fluage, etc.).

C’est à la fois effrayant et rassurant, car cela suggère qu’il existe actuellement une limite à ce que les contrefaçons d’IA sont crédibles, mais effrayant, car cette technologie évolue trop rapidement pour que les assurances actuelles restent valables longtemps. En fait, je dirais qu’il n’y a qu’une seule garantie en ce qui concerne les images IA : elles ne feront que devenir plus crédibles. Ils ne sont certainement pas limités à leur esthétique actuelle. Et tôt ou tard, ils vont devenir hyperréels comme Baudrillard a défini le concept : masquant entièrement la distinction entre l’imaginaire et le réel.