La fiction générée par l’IA inonde les magazines littéraires mais ne trompe personne

Une nouvelle intitulée The Last Hope a été publiée pour la première fois sur le bureau de Sheila Williams début janvier. Williams, l’éditeur de Science-fiction Asimov magazine, a revu l’histoire et l’a transmise.

Au début, elle n’y pensait pas beaucoup; elle lit et répond quotidiennement aux écrivains dans le cadre de son travail, recevant entre 700 et 750 histoires par mois. Mais quand une autre histoire, également intitulée The Last Hope, est arrivée quelques semaines plus tard par un écrivain avec un nom différent, Williams est devenu méfiant. Au moment où un autre The Last Hope est arrivé quelques jours plus tard, Williams a immédiatement su qu’elle avait un problème entre les mains.

C’est comme la pointe de l’iceberg, dit Williams.

Depuis cette première soumission, Williams a reçu plus de 20 nouvelles toutes intitulées The Last Hope, chacune provenant de noms d’auteurs et d’adresses e-mail différents. Williams pense qu’ils ont tous été générés à l’aide d’outils d’intelligence artificielle, ainsi que des centaines d’autres soumissions similaires qui ont submergé les petits éditeurs ces derniers mois.

Asimov a reçu environ 900 histoires pour examen en janvier et est sur la bonne voie pour en obtenir 1 000 ce mois-ci. Williams dit que presque toute l’augmentation peut être attribuée à des pièces qui semblent être générées par l’IA, et elle en lit tellement qu’elle peut maintenant souvent dire dès les premiers mots si quelque chose n’a pas été écrit par un humain.

Outre la répétition des titres, certains noms de personnages ont tendance à apparaître souvent, dit Williams. Parfois, le manuscrit contiendra une différent titre que celui indiqué dans le formulaire en ligne. Les noms d’auteurs semblent souvent être des amalgames de prénoms et de noms de famille. Dans les lettres d’accompagnement facultatives, certains auteurs incluent des instructions sur la façon de leur virer de l’argent pour leur histoire qui n’a pas encore été acceptée. Parfois, le déposant n’a même pas pris la peine de remplacer [name] avec les leurs.

En utilisant ChatGPT, Le bord a pu reproduire certains éléments des soumissions que Williams a vues. Une invite à écrire une courte histoire de science-fiction ainsi que des informations copiées-collées à partir de Asimov les directives de soumission ont produit des histoires avec des dizaines de titres similaires successivement, comme The Last Echo, The Last Message, The Last Day of Autumn et The Last Voyager.

Willams et son équipe ont appris à repérer les œuvres générées par l’IA, mais l’afflux de soumissions a tout de même été frustrant. Des points de vente comme Asimov sont submergés par les copains de l’IA, prennent le temps des éditeurs et des lecteurs et évincent potentiellement les soumissions authentiques des nouveaux écrivains. Et le problème ne pourrait que s’aggraver, car la plus grande disponibilité des robots d’écriture crée un nouveau genre de programmes d’enrichissement rapide, où les magazines littéraires avec des soumissions ouvertes se sont découverts sur le côté récepteur d’une nouvelle surface pour les soumissions spammées essayant de jouer. le système.

En gros, je les parcoure aussi vite que possible, dit Williams à propos des pièces qu’elle soupçonne d’être générées par l’IA. Il faut le même temps pour télécharger une soumission, l’ouvrir et la consulter. Et je préfère passer ce temps sur les soumissions légitimes.

Pour certains éditeurs, l’afflux de soumissions générées par l’IA les a forcés à cesser d’accepter de nouveaux travaux.

La semaine dernière, le célèbre magazine de science-fiction Clarkesworld annoncé cela fermerait temporairement les soumissions en raison d’un flot de travaux générés par l’IA. Dans un précédent article de blog, le rédacteur en chef Neil Clarke avait noté que le magazine avait été contraint d’interdire un nombre croissant d’auteurs parce qu’ils avaient soumis des articles générés à l’aide d’outils automatisés. Rien qu’en février, Clarkesworld avait reçu 700 soumissions écrites par des humains et 500 histoires générées par des machines, dit Clarke.

Clarke pense que les soumissions de spam proviennent de personnes cherchant à gagner rapidement de l’argent et qui ont trouvé Clarkesworld et d’autres publications par le biais d’influenceurs et de sites Web secondaires. Un site Web, par exemple, est chargé d’articles d’appât SEO et de mots-clés autour du marketing, de l’écriture et des affaires et promet d’aider les lecteurs à gagner de l’argent rapidement. Un article du site répertorie près d’une vingtaine de revues littéraires et de sites internet dont Clarkesworld et Asimovs, ainsi que des points de vente plus importants comme la BBC avec le taux de rémunération et les détails de soumission. L’article encourage les lecteurs à utiliser des outils d’IA pour les aider et inclut des liens de marketing d’affiliation vers Jasper, un logiciel d’écriture d’IA.

La plupart des publications paient de petits tarifs au mot, environ 8 à 10 cents, tandis que d’autres paient des frais fixes allant jusqu’à quelques centaines de dollars pour les pièces acceptées. Dans son blog, Clarke a écrit qu’un pourcentage élevé de soumissions frauduleuses provenaient de certaines régions, mais a refusé de les nommer, craignant que cela puisse dépeindre les écrivains de ces pays comme des arnaques.

Mais la possibilité d’être payé est un facteur : dans certains cas, Clarke a correspondu avec des personnes qui ont été bannies pour avoir soumis des travaux générés par l’IA, disant qu’elles avaient besoin d’argent. Un autre éditeur a dit Le bord que même avant les histoires générées par l’IA, ils recevaient des soumissions et des courriels d’écrivains dans des pays où le coût de la vie est plus bas et où les frais de publication de 80 $ vont beaucoup plus loin qu’aux États-Unis.

Clarke, qui a construit le système de soumission que son magazine utilise, a décrit les efforts des spammeurs d’histoires d’IA comme inélégants en comparant les notes avec d’autres éditeurs, Clarke a pu voir que le même travail était soumis depuis la même adresse IP à plusieurs publications à quelques minutes d’intervalle, souvent dans l’ordre d’apparition des magazines sur les listes.

S’il s’agissait de personnes de l’intérieur du [science fiction and fantasy] communauté, ils sauraient que cela ne fonctionnerait pas. Il serait immédiatement évident pour eux qu’ils ne pourraient pas faire cela et s’attendre à ce que cela fonctionne, dit Clarke.

La question s’étend au-delà des publications de science-fiction et de fantasy. Fiction Flash en ligne accepte une gamme de genres, y compris l’horreur et la fiction littéraire. Le 14 février, le média a ajouté un avis à son formulaire de soumission : Nous nous engageons à publier des histoires écrites et éditées par des humains. Nous nous réservons le droit de rejeter toute soumission que nous soupçonnons d’être principalement générée ou créée par un logiciel de modélisation de langage, ChatGPT, des robots de discussion ou toute autre application, robot ou logiciel d’IA.

Les termes mis à jour ont été ajoutés à peu près au moment où FFO a reçu plus de 30 soumissions d’une seule source en quelques jours, explique Anna Yeatts, éditrice et co-rédactrice en chef. Chaque histoire a frappé des clichés que Yeatts avait vus dans le travail généré par l’IA, et chacune avait une lettre de motivation unique, structurée et écrite contrairement à ce que la publication voit normalement. Mais Yeatts et ses collègues soupçonnaient depuis janvier que certains travaux qui leur avaient été envoyés avaient été créés à l’aide d’outils d’IA.

Yeatts avait joué avec ChatGPT à partir de décembre, alimentant les invites de l’outil pour produire des histoires de genres spécifiques ou dans des styles comme la romance gothique. Le système a pu reproduire les éléments techniques, y compris l’établissement des personnages principaux et la mise en place et l’introduction de conflits, mais n’a pas réussi à produire de point de vue profond, les fins étaient trop nettes et parfaites, et les émotions se sont souvent transformées en mélodrame. Tout le monde a des yeux verts perçants et les histoires s’ouvrent souvent avec des personnages assis. Parmi les plus de 1 000 œuvres FFO a reçu cette année, Yeatts estime qu’environ 5% ont probablement été générés par l’IA.

Nous mettons ce petit avertissement effrayant [on the submissions page], dit Yeatts. L’appliquer, cependant, pourrait s’avérer difficile.

Dans le passé, FFO a publié des travaux grand public qui ont un style d’écriture plus conventionnel et une voix accessible à une gamme de niveaux de lecture. Pour cela, Yeatts affirme que les histoires générées à l’aide d’outils d’IA pourraient dépasser les exigences de base.

Il contient toutes les parties de l’histoire que vous essayez de rechercher. Il a un début, un milieu et une fin. Il a une résolution, des caractères. La grammaire est bonne, dit Yeatts. L’équipe FFO s’efforce de former les lecteurs du personnel à rechercher certains éléments de l’histoire lors de leur premier passage lors des soumissions.

Yeatts craint qu’une vague croissante de travaux générés par l’IA ne puisse littéralement exclure le travail écrit. Le point de vente utilise Submittable, un service de soumission populaire, et FFOs plan qui comprend un plafond mensuel sur les histoires, après quoi le portail se ferme. Si des centaines de personnes envoient des travaux générés par l’IA inéligibles, cela pourrait empêcher les auteurs humains d’envoyer leurs histoires.

Yeatts n’est pas sûr de ce que le magazine peut faire pour empêcher les histoires de venir. La mise à niveau du plan Submittable serait coûteuse pour FFOqui fonctionne avec un budget restreint, dit Yeatts.

Nous avons parlé de solliciter des histoires d’autres auteurs, mais cela ne correspond pas non plus vraiment à qui nous sommes en tant que publication, car cela va dissuader les nouveaux écrivains, dit Yeatts. Nous n’avons vraiment pas de bonnes solutions.

D’autres membres de la communauté surveillent le problème qui inonde d’autres éditeurs et réfléchissent à des moyens d’y répondre avant qu’il ne se propage davantage. Matthew Kressel, écrivain de science-fiction et créateur de Moksha, un système de soumission en ligne utilisé par des dizaines de publications, dit qu’il a commencé à entendre des clients qui ont reçu des soumissions de spam qui semblent avoir été écrites à l’aide d’outils d’IA.

Kressel dit qu’il veut garder Moksha agnostique en ce qui concerne la valeur des soumissions générées à l’aide de chatbots. Les éditeurs ont la possibilité d’ajouter une case à cocher où les auteurs peuvent confirmer que leur travail n’utilise pas de systèmes d’IA, dit Kressel, et envisage d’ajouter une option pour les publications qui leur permettrait de bloquer ou de limiter partiellement les soumissions à l’aide d’outils d’IA.

Permettre aux auteurs de s’affirmer si le travail est généré par l’IA est une bonne première étape, a déclaré Kressel Le bord par email. Cela donne plus de transparence à l’ensemble, car en ce moment il y a beaucoup d’incertitudes.

Pour Williams, l’éditeur de Asimovs, être obligée d’utiliser son temps pour passer au crible la pile de déchets générés par l’IA est frustrante. Mais ce qui est encore plus préoccupant, c’est que de nouveaux auteurs légitimes pourraient voir ce qui se passe et penser que les éditeurs n’arriveront jamais à leur manuscrit.

Je ne veux pas que les écrivains s’inquiètent que je rate leur travail parce que je suis inondé de bric-à-brac, dit Williams. Les bonnes histoires sont évidentes très tôt. L’esprit qui façonne l’histoire intéressante n’est pas en danger.