Le générateur AIimage Midjourney arrête les essais gratuits mais dit que l’afflux de nouveaux utilisateurs est à blâmer
Le générateur d’images AI Midjourney a interrompu les essais gratuits de son service, accusant un afflux soudain de nouveaux utilisateurs. Le PDG et fondateur de Midjourney, David Holz, a annoncé le changement mardi, citant à l’origine une demande extraordinaire et un procès abusif dans un message sur Discord (cette annonce a été repérée en premier par Le Washington Post). Dans un courriel à Le bord, Holz a déclaré que la pause est due à un nombre considérable de personnes créant des comptes jetables pour obtenir des images gratuites.
Nous pensons que le coupable était probablement une vidéo virale en Chine, a déclaré Holz par e-mail. Cela s’est produit en même temps qu’une pénurie temporaire de GPU. Les deux choses se sont réunies et cela a fait tomber le service pour les utilisateurs payants.
Compte tenu de la référence de Holz aux abus, on pensait à l’origine que la pause était liée à une série d’images virales récentes créées à l’aide de Midjourney, y compris fabriquées images de l’arrestation de Donald Trump et le pape portant une veste élégante, que certains ont pris pour de vraies photographies. Cependant, Holz a qualifié les rapports précédents de malentendu et note que l’essai gratuit de Midjourney n’a jamais inclus l’accès à la dernière version de Midjourney, la version 5, qui crée les images les plus réalistes et qui aurait été utilisée pour ces images virales.
La version 5 de Midjourney a considérablement amélioré la qualité des images représentant des personnes. Par exemple, les mains déformées qui étaient auparavant une caractéristique des images générées par l’IA sont désormais moins problématiques. L’éclairage et le tissu sont également plus réalistes et le système est capable de générer des images d’innombrables célébrités et personnalités publiques.
Ces améliorations ont apparemment conduit à un certain nombre d’images de Midjourney devenues virales ces dernières semaines. Ils incluent non seulement de fausses photos de l’arrestation de Trump et du pape à la mode, mais aussi le président français Emmanuel Macron traversant les manifestations en cours à Paris et Elon Musk tenant la main d’Alexandria Ocasio-Cortez.
La réponse de Midjourneys à la menace croissante politiquement sensible des fausses images a jusqu’à présent été fragmentaire, sans aucune refonte significative de ses politiques de modération. Les restrictions de contenu de Midjourneys sont plus permissives que certains services concurrents (comme OpenAIs DALL-E) mais plus restrictives que d’autres (par exemple, Stable Diffusion).
La modération est difficile et nous expédierons bientôt des systèmes améliorés. Prenaient beaucoup de commentaires et d’idées d’experts et de la communauté et essayaient d’être vraiment réfléchis, a déclaré Holz Le bord.
Midjourney maintient une liste de mots interdits liés à des sujets dans différents pays sur la base des plaintes des utilisateurs de ces pays, selon un message de Holz en octobre dernier. Mais il ne partage pas une version complète de cette liste pour minimiser le drame. Comme Holz l’a dit l’année dernière, presque personne ne remarque jamais [the ban list] à moins qu’ils essaient spécialement de créer un drame qui va à l’encontre de nos règles [terms of service] n’utilisez pas nos outils pour créer du drame.
Mais la société a élargi cette liste car ses contrefaçons sont devenues virales, interdisant récemment le terme arrêté, par exemple. C’était apparemment en réponse à un fil Twitter populaire d’images de Midjourney illustrant l’arrestation de Trump qui ont été créées par le journaliste d’investigation Eliot Higgins. Higgins dit qu’il a ensuite été interdit d’utiliser Midjourney.
De telles restrictions sont cependant faciles à contourner. Par exemple, dans Le bordLors des tests, nous n’avons pas été en mesure de générer des images avec l’invite Donald Trump en cours d’arrestation, mais nous avons pu créer une sortie identique avec l’invite Donald Trump menotté entouré de policiers. (Comme illustré par l’image en haut de l’histoire.)
Au moment de la rédaction de cet article, Midjourney n’autorise toujours pas les utilisateurs gratuits à générer des images, bien que cela puisse changer à l’avenir. Nous essayions toujours de comprendre comment ramener les essais gratuits, nous avons essayé d’exiger un e-mail actif, mais cela ne suffisait pas, nous sommes donc retournés à la planche à dessin, a déclaré Holz.
Correction le 30 mars, 17h02 HE : Une version antérieure de cette histoire suggérait que Midjourney avait interrompu les essais gratuits de son service en réaction à une série d’images virales deepfake. Le PDG David Holz explique que la raison en était un afflux de nouveaux utilisateurs et note que la version la plus avancée de Midjourney, la version 5, n’a jamais été disponible pour les utilisateurs d’essai gratuits. Nous regrettons l’erreur.