Les images Deepfake explicites de Taylor Swift échappent aux garanties et aux médias sociaux des marais

De fausses images sexuellement explicites de Taylor Swift, probablement générées par l’intelligence artificielle, se sont rapidement répandues sur les plateformes de médias sociaux cette semaine, dérangeant les fans qui les ont vues et ravivant les appels des législateurs à protéger les femmes et à sévir contre les plateformes et les technologies qui diffusent de telles images.

Une image partagée par un utilisateur sur X a été vue 47 millions de fois avant la suspension du compte jeudi. X a suspendu plusieurs comptes qui publiaient de fausses images de Mme Swift, mais les images ont été partagées sur d’autres plateformes de médias sociaux et ont continué à se propager malgré les efforts de ces entreprises pour les supprimer.

Alors que X a déclaré qu’il s’efforçait de supprimer les images, les fans de la superstar de la pop ont envahi la plateforme en signe de protestation. Ils ont publié des mots-clés associés, ainsi que la phrase Protégez Taylor Swift, dans le but de noyer les images explicites et de les rendre plus difficiles à trouver.

Reality Defender, une société de cybersécurité axée sur la détection de l’IA, a déterminé avec un degré de confiance de 90 % que les images avaient été créées à l’aide d’un modèle de diffusion, une technologie basée sur l’IA accessible via plus de 100 000 applications et modèles accessibles au public, a déclaré Ben Colman, co- fondateur et directeur général.

Alors que l’industrie de l’IA est en plein essor, les entreprises se sont empressées de publier des outils permettant aux utilisateurs de créer des images, des vidéos, du texte et des enregistrements audio à l’aide d’invites simples. Les outils d’IA sont très populaires, mais ils ont rendu plus facile et moins coûteux que jamais la création de ce que l’on appelle des deepfakes, qui représentent des personnes faisant ou disant des choses qu’elles n’ont jamais faites.

Les chercheurs craignent désormais que les deepfakes ne deviennent une puissante force de désinformation, permettant aux internautes de créer des images de nus non consensuelles ou des portraits embarrassants de candidats politiques. L’intelligence artificielle a été utilisée pour créer de faux appels automatisés du président Biden lors des primaires du New Hampshire, et Mme Swift a été présentée ce mois-ci dans de fausses publicités vendant des ustensiles de cuisine.

Cela a toujours été un sombre courant sous-jacent sur Internet, une pornographie non consensuelle de toutes sortes, a déclaré Oren Etzioni, professeur d’informatique à l’Université de Washington qui travaille sur la détection des deepfakes. Il s’agit désormais d’une nouvelle souche particulièrement nocive.

Nous allons assister à un tsunami de ces images explicites générées par l’IA. Les personnes qui ont généré cela considèrent cela comme un succès, a déclaré M. Etzioni.

X a déclaré avoir une politique de tolérance zéro envers le contenu. Nos équipes suppriment activement toutes les images identifiées et prennent les mesures appropriées contre les comptes responsables de leur publication, a déclaré un représentant dans un communiqué. Nous surveillons de près la situation pour garantir que toute nouvelle violation soit immédiatement corrigée et que le contenu soit supprimé.

X a constaté une augmentation des contenus problématiques, notamment du harcèlement, de la désinformation et des discours de haine, depuis qu’Elon Musk a acheté le service en 2022. Il a assoupli les règles relatives au contenu des sites Web et licencié, licencié ou accepté la démission des membres du personnel qui ont travaillé pour supprimer ce contenu. La plateforme a également rétabli les comptes qui avaient été précédemment interdits pour violation des règles.

Bien que de nombreuses entreprises qui produisent des outils d’IA générative interdisent à leurs utilisateurs de créer des images explicites, les gens trouvent des moyens d’enfreindre les règles. C’est une course aux armements, et il semble que chaque fois que quelqu’un propose un garde-fou, quelqu’un d’autre trouve comment le jailbreaker, a déclaré M. Etzioni.

Les images proviennent d’une chaîne de l’application de messagerie Telegram dédiée à la production de telles images, selon 404 Media, un site d’information technologique. Mais les deepfakes ont attiré une large attention après avoir été publiés sur X et d’autres services de médias sociaux, où ils se sont propagés rapidement.

Certains États ont restreint les deepfakes pornographiques et politiques. Mais les restrictions n’ont pas eu d’impact majeur et il n’existe aucune réglementation fédérale concernant ces deepfakes, a déclaré M. Colman. Les plateformes ont tenté de lutter contre les deepfakes en demandant aux utilisateurs de les signaler, mais cette méthode n’a pas fonctionné, a-t-il ajouté. Au moment où ils sont signalés, des millions d’utilisateurs les ont déjà vus.

Le dentifrice est déjà sorti du tube, dit-il.

Le publiciste de Mme Swift, Tree Paine, n’a pas immédiatement répondu aux demandes de commentaires jeudi soir.

Les deepfakes de Mme Swift ont suscité de nouveaux appels à l’action de la part des législateurs. Le représentant Joe Morelle, un démocrate de New York qui a présenté l’année dernière un projet de loi qui ferait du partage de telles images un crime fédéral, a déclaré sur X que la diffusion de ces images était épouvantable, ajoutant : Cela arrive aux femmes partout, tous les jours.

J’ai prévenu à plusieurs reprises que l’IA pourrait être utilisée pour générer des images intimes non consensuelles, a déclaré le sénateur Mark Warner, démocrate de Virginie et président de la commission sénatoriale du renseignement, à propos des images sur X. Il s’agit d’une situation déplorable.

La représentante Yvette D. Clarke, une démocrate de New York, a déclaré que les progrès de l’intelligence artificielle avaient rendu la création de deepfakes plus facile et moins coûteuse.

Ce qui est arrivé à Taylor Swift n’est pas nouveau, a-t-elle déclaré.