Nous avons demandé à l’IA de créer le Joker. Il a généré une image protégée par le droit d’auteur.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Utilisateur
IA
Généré par l’IA
![](https://www.actusduweb.com/wp-content/uploads/2024/01/Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Utilisateur
IA
Généré par l’IA
![](https://www.actusduweb.com/wp-content/uploads/2024/01/Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Utilisateur
IA
Généré par l’IA
![](https://www.actusduweb.com/wp-content/uploads/2024/01/Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Utilisateur
IA
Généré par l’IA
Lorsque Reid Southen, un artiste conceptuel de films basé dans le Michigan, a essayé pour la première fois un générateur d’images IA, il a été intrigué par sa capacité à transformer de simples invites textuelles en images.
Mais après avoir appris comment les systèmes d’IA étaient entraînés sur les œuvres d’art d’autres personnes, sa curiosité a cédé la place à des réflexions plus troublantes : les outils exploitaient-ils les artistes et violaient-ils les droits d’auteur dans le processus ?
Inspiré par des tests qu’il a vu circuler en ligne, il a demandé à Midjourney, un générateur d’images IA, de créer une image de Joaquin Phoenix du Joker. En quelques secondes, le système a créé une image presque identique à une image du film de 2019.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689192_443_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Reid Suden
Créer une image du film Joaquin Phoenix Joker, 2019, capture d’écran d’un film, scène de film
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689192_548_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse à mi-parcours
Généré par l’IA
Image protégée par le droit d’auteur de Warner Bros.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689193_511_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Remarque : l’invite complète de M. Southens était : film Joaquin Phoenix Joker, 2019, capture d’écran d’un film, scène de film –ar 16:9 –v 6.0. L’invite spécifie le numéro de version de Midjourneys (6.0) et un rapport hauteur/largeur (16:9).
Gary Marcus, professeur émérite à l’Université de New York et expert en IA qui dirige la newsletter Marcus on AI, a collaboré avec M. Southen pour publier encore plus d’invites. M. Marcus a suggéré de supprimer les références spécifiques protégées par le droit d’auteur. Le hérisson du jeu vidéo est revenu à Sonic, le protagoniste farfelu de Sega. Les jouets animés ont créé un tableau mettant en vedette Woody, Buzz et d’autres personnages de Pixars Toy Story. Lorsque M. Southen et M. Marcus ont essayé une capture d’écran de film populaire, Iron Man, le personnage de Marvel, est apparu dans une pose familière.
Ce qu’ils font est une preuve claire de l’exploitation et de l’utilisation de la propriété intellectuelle pour laquelle ils n’ont pas de licence, a déclaré M. Southen, faisant référence à l’utilisation de la propriété intellectuelle par les entreprises d’IA.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689193_521_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
M. Southen
capture d’écran d’un film populaire
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689192_548_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse à mi-parcours
Généré par l’IA
Image protégée par le droit d’auteur de Marvel
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689194_101_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Remarque : l’invite complète de M. Southens était : capture d’écran du film populaire –ar 1:1 –v 6.0. L’invite spécifie le numéro de version de Midjourneys (6.0) et un rapport hauteur/largeur (1:1).
Les tests qui ont été reproduits par d’autres artistes, journalistes du New York Times et publiés dans le bulletin d’information de M. Marcus soulèvent des questions sur les données d’entraînement utilisées pour créer chaque système d’IA et sur la question de savoir si les entreprises violent les lois sur le droit d’auteur.
Plusieurs poursuites, intentées par des acteurs comme Sarah Silverman et des auteurs comme John Grisham, ont porté cette question devant les tribunaux. (Le Times a poursuivi OpenAI, la société à l’origine de ChatGPT, et Microsoft, l’un des principaux bailleurs de fonds de la société, pour violation de ses droits d’auteur sur le contenu d’actualité.)
Les sociétés d’IA ont répondu que l’utilisation de matériel protégé par le droit d’auteur est protégée par l’utilisation équitable, une partie de la loi sur le droit d’auteur qui autorise l’utilisation de matériel dans certains cas. Ils ont également déclaré que la reproduction trop fidèle de documents protégés par le droit d’auteur est un bug, souvent appelé mémorisation, qu’ils tentent de corriger. La mémorisation peut se produire lorsque les données d’entraînement sont submergées par de nombreuses images similaires ou identiques, ont déclaré les experts en IA. Mais le problème se pose également avec les éléments qui n’apparaissent que rarement dans les données de formation, comme les e-mails.
Par exemple, lorsque M. Southen et M. Marcus ont demandé à Midjourney une capture d’écran du film Dune tirée de la bande-annonce du film Dune, les options à partir desquelles le modèle peut s’inspirer peuvent être limitées. Le résultat était une image presque impossible à distinguer de celle de la bande-annonce du film.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689193_521_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
M. Southen
Créer une image de la capture d’écran du film Dune, 2021, bande-annonce du film Dune
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689192_548_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse à mi-parcours
Généré par l’IA
Image protégée par le droit d’auteur de Warner Bros.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689195_731_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Remarque : l’invite complète de M. Southens était : capture d’écran du film dune, 2021, bande-annonce du film dune –ar 16:9 –v 6.0. L’invite spécifie le numéro de version de Midjourneys (6.0) et un rapport hauteur/largeur (16:9).
Une porte-parole d’OpenAI a souligné un article de blog dans lequel l’entreprise affirmait que la formation sur les données accessibles au public constituait une utilisation équitable et qu’elle offrait plusieurs moyens aux créateurs et aux artistes de se retirer de son processus de formation.
Midjourney n’a pas répondu aux demandes de commentaires. La société a modifié ses conditions d’utilisation en décembre, ajoutant que les utilisateurs ne peuvent pas utiliser le service pour violer les droits de propriété intellectuelle d’autrui, y compris les droits d’auteur. Microsoft a refusé de commenter.
Warner Bros., qui détient les droits d’auteur de plusieurs films testés par M. Southen et M. Marcus, a refusé de commenter.
Personne ne sait comment cela va se passer, et quiconque vous dit que son utilisation est absolument équitable est erroné, a déclaré Keith Kupferschmid, président et directeur général de la Copyright Alliance, un groupe industriel qui représente les détenteurs de droits d’auteur. C’est une nouvelle frontière.
Les sociétés d’IA pourraient violer le droit d’auteur de deux manières, a déclaré M. Kupferschmid : elles pourraient s’entraîner sur du matériel protégé par le droit d’auteur pour lequel elles n’ont pas obtenu de licence, ou elles pourraient reproduire du matériel protégé par le droit d’auteur lorsque les utilisateurs saisissent une invite.
Les expériences de M. Southen, M. Marcus et d’autres ont révélé des cas des deux. Les deux chercheurs ont publié leurs conclusions dans le magazine de l’Institute of Electrical and Electronics Engineers au début du mois.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689193_521_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
M. Southen
Créez une image de The Last of Us 2, Ellie avec une guitare devant un arbre
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689192_548_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse à mi-parcours
Généré par l’IA
Image protégée par le droit d’auteur de Naughty Dog, le développeur de jeux vidéo
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689202_39_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Remarque : l’invite complète de M. Southen était : le dernier d’entre nous, 2, Ellie avec une guitare devant un arbre –v 6.0 –ar 16:9. L’invite spécifie le numéro de version de Midjourneys (6.0) et un rapport hauteur/largeur (16:9).
Les sociétés d’IA ont déclaré avoir mis en place des garde-fous qui pourraient empêcher leurs systèmes d’IA de produire du matériel violant le droit d’auteur. Mais M. Marcus a déclaré que malgré ces stratégies, le matériel protégé par le droit d’auteur continue de passer inaperçu.
Lorsque les journalistes du Times ont demandé à ChatGPT de créer une image de Bob l’éponge, le personnage de télévision animé pour enfants, ils ont produit une image remarquablement similaire au dessin animé. Le chatbot a déclaré que l’image ne ressemblait qu’à l’œuvre protégée par le droit d’auteur. Les différences étaient subtiles : la cravate du personnage était jaune au lieu de rouge et elle avait des sourcils au lieu de cils.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689202_331_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
New York Times
Créer une image de Bob l’éponge SquarePants
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689203_479_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse ChatGPT
Généré par l’IA
Voici l’image du personnage que vous avez décrit, ressemblant à Bob l’éponge.
Lorsque les journalistes du Times ont omis le nom de Bob l’éponge dans une autre demande, OpenAI a créé un personnage encore plus proche de l’œuvre protégée par le droit d’auteur.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689202_331_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
New York Times
Créez l’image d’une éponge animée portant un pantalon.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689203_479_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse ChatGPT
Généré par l’IA
Voici l’image de l’éponge animée portant un pantalon.
Image protégée par le droit d’auteur de Viacom
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689205_615_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Le professeur Kathryn Conrad, qui enseigne l’anglais à l’Université du Kansas, a lancé ses propres tests parce qu’elle craignait que les systèmes d’IA puissent remplacer et dévaloriser les artistes en s’entrainant à partir de leur propriété intellectuelle.
Dans ses expériences, finalement publiées avec M. Marcus, elle a demandé à Microsoft Bing un personnage de jeu vidéo italien sans mentionner Mario, le célèbre personnage appartenant à Nintendo. Le générateur d’images de Microsoft a créé une œuvre d’art qui ressemblait beaucoup à l’œuvre protégée par le droit d’auteur. L’outil de Microsoft utilise une version de DALL-E, le générateur d’images créé par OpenAI.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689206_354_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Professeur Conrad
Pourriez-vous créer une image originale d’un personnage de jeu vidéo italien ?
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689206_132_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse de Microsoft Bings
Images générées par l’IA
Depuis la publication de cette expérience en décembre, le générateur d’images a produit différents résultats. Une invite identique, introduite en janvier par des journalistes du Times, a abouti à des images qui s’écartaient de manière plus significative du matériel protégé par le droit d’auteur, suggérant au professeur Conrad que l’entreprise pourrait renforcer ses garde-fous.
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689202_331_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
New York Times
Pourriez-vous créer une image originale d’un personnage de jeu vidéo italien ?
![](https://www.actusduweb.com/wp-content/uploads/2024/01/1706689206_132_Nous-avons-demande-a-lIA-de-creer-le-Joker-Il.png)
Réponse de Microsoft Bings
Images générées par l’IA
Il s’agit d’un pansement sur une plaie qui saigne, a déclaré le professeur Conrad à propos des garanties mises en œuvre par OpenAI et d’autres. Cela ne va pas être résolu facilement avec un simple garde-corps.