Un auteur dit qu’IA « écrit » des livres non autorisés vendus sous son nom sur Amazon | CNN Affaires

New York
CNN

Une auteure sonne l’alarme cette semaine après avoir trouvé de nouveaux livres vendus sur Amazon sous son nom mais elle ne les a pas écrits ; ils semblent avoir été générés par l’intelligence artificielle.

Jane Friedman, qui a écrit plusieurs livres et consulté sur le travail dans l’industrie de l’écriture et de l’édition, a déclaré à CNN qu’une lectrice aux yeux d’aigle à la recherche de plus de son travail avait acheté l’un des faux titres sur Amazon. Les livres avaient des titres similaires aux sujets sur lesquels elle écrit généralement, mais le texte se lisait comme si quelqu’un avait utilisé un modèle d’IA générative pour imiter son style.

Quand j’ai commencé à regarder ces livres, à regarder les premières pages, à regarder la biographie, il était évident pour moi qu’il avait été principalement, sinon entièrement, généré par l’IA. J’ai tellement de contenu disponible en ligne gratuitement, parce que j’ai blogue depuis toujours, il ne serait donc pas difficile d’obtenir une IA pour m’imiter, a déclaré Friedman.

Avec des outils d’intelligence artificielle tels que ChatGPT désormais capables de produire rapidement et à moindre coût d’énormes volumes de textes convaincants, certains écrivains et auteurs ont sonné l’alarme quant à la perte de travail au profit de la nouvelle technologie. D’autres ont dit qu’ils ne voulaient pas que leur travail soit utilisé pour former des modèles d’IA, qui pourraient ensuite être utilisés pour les imiter.

L’IA générative est utilisée pour remplacer les écrivains prenant leur travail sans autorisation, incorporant ces travaux dans le tissu de ces modèles d’IA, puis offrant ces modèles d’IA au public, à d’autres entreprises, pour les utiliser pour remplacer les écrivains, Mary Rasenberger, PDG de la le groupe de défense des auteurs à but non lucratif, la Guilde des auteurs, a déclaré à CNN. Vous pouvez donc imaginer que les écrivains sont un peu contrariés par cela.

Le mois dernier, les législateurs américains ont rencontré des membres des industries créatives, dont la Guilde des auteurs, pour discuter des implications de l’intelligence artificielle. Lors d’une audience du sous-comité sénatorial, Rasenberger a appelé à la création d’une législation pour protéger les écrivains de l’IA, y compris des règles qui obligeraient les entreprises d’IA à être transparentes sur la façon dont elles forment leurs modèles. Plus de 10 000 auteurs, dont James Patterson, Roxane Gay et Margaret Atwood, ont également signé une lettre ouverte appelant les leaders de l’industrie de l’IA comme Microsoft et le fabricant de ChatGPT OpenAI à obtenir le consentement des auteurs lorsqu’ils utilisent leur travail pour former des modèles d’IA, et à les rémunérer équitablement lorsque ils font.

Friedman a publié lundi un fil bien lu sur X, anciennement connu sous le nom de Twitter, et un article de blog sur le problème. Plusieurs auteurs ont répondu qu’ils avaient eu des expériences similaires.

Les gens n’arrêtent pas de me dire qu’ils ont acheté mon dernier livre qui porte mon nom, mais je n’ai pas écrit, a déclaré un auteur en réponse.

Amazon a supprimé les faux livres vendus sous le nom de Friedmans et a déclaré que sa politique interdisait une telle imitation.

Nous avons des directives de contenu claires régissant les livres qui peuvent être mis en vente et enquêtons rapidement sur tout livre en cas de problème, a déclaré le porte-parole d’Amazon, Ashley Vanicek, dans un communiqué, ajoutant que la société accepte les commentaires des auteurs sur les problèmes potentiels. Nous investissons massivement pour offrir une expérience d’achat digne de confiance et protéger les clients et les auteurs contre l’utilisation abusive de notre service.

Amazon a également déclaré à Friedman qu’il enquêtait sur ce qui s’était passé avec le traitement de vos réclamations pour améliorer nos processus, selon un e-mail consulté par CNN.

Les faux livres utilisant le nom de Friedmans ont également été ajoutés à son profil sur le réseau social littéraire Goodreads, et supprimés seulement après qu’elle ait rendu public le problème.

Nous avons des directives claires sur les livres inclus sur Goodreads et enquêterons rapidement en cas de problème, supprimant les livres lorsque nous en aurons besoin, a déclaré la porte-parole de Goodreads, Suzanne Skyvara, dans un communiqué à CNN.

Friedman a déclaré qu’elle craignait que les auteurs ne soient obligés de jouer à la taupe pour identifier les contrefaçons générées par l’IA.

Ce qui est effrayant, c’est que cela peut arriver à n’importe qui avec un nom qui a une réputation, un statut, une demande dont quelqu’un voit un moyen de tirer profit, a-t-elle déclaré.

La Guilde des auteurs travaille avec Amazon depuis l’hiver dernier pour résoudre le problème des livres écrits par l’IA, a déclaré Rasenberger.

Elle a déclaré que la société a été réactive lorsque la Guilde des auteurs signale de faux livres au nom des auteurs, mais cela peut être un problème délicat à repérer étant donné qu’il est possible que deux auteurs légitimes portent le même nom.

Le groupe espère également que les entreprises d’IA accepteront d’autoriser les auteurs à ne pas utiliser leur travail pour former des modèles d’IA afin qu’il soit plus difficile de créer des imitateurs et de trouver des moyens d’étiqueter de manière transparente le texte généré artificiellement. Et, a-t-elle ajouté, les entreprises et les éditeurs devraient continuer à investir dans le travail créatif réalisé par des humains, même si l’IA semble plus pratique.

Utiliser l’IA pour générer du contenu est si facile, si bon marché, que je crains qu’il n’y ait ce genre de concurrence à la baisse pour utiliser l’IA pour remplacer les créateurs humains, a-t-elle déclaré. Et vous n’obtiendrez jamais la même qualité avec l’IA que les créateurs humains.