Le spam IA commence déjà à ruiner Internet

• Les fraudeurs utilisent l’IA pour cracher des pages Web et des vidéos YouTube qui jouent avec Google.
• Certains de ces sites proposent de fausses nécrologies. Les sites Web des médias sont également supprimés et copiés par l’IA.
• Le résultat final : lorsque des résultats inutiles inondent Google, c’est mauvais pour les utilisateurs et pour Google.

Un peu plus d’un an après le lancement public de ChatGPT, nous commençons à voir une prédiction se réaliser sur la façon dont cela pourrait affecter Internet : le spam IA inonde le Web.

Pas plus tard que la semaine dernière, il y a eu trois exemples de la façon dont cela s’est déroulé.

Premièrement, 404 Media, un nouveau blog technologique, a écrit qu’il avait dû modifier son site Web en raison du spam provenant de l’intelligence artificielle.

Récemment, il a remarqué que des versions écrites par l’IA de ses scoops apparaissaient sur des sites de spam favorables à l’optimisation des moteurs de recherche, apparaissant parfois même au-dessus des vrais articles de 404 Media dans les résultats de recherche Google. Bien entendu, les escrocs gagnent de l’argent en diffusant des publicités sur les pages générées par l’IA.

Extrait du regard de 404 Media sur l’industrie artisanale du vol d’articles :

Au cours des dernières semaines, Jason a recherché et expérimenté une série d’outils d’IA qui promettent de « faire tourner » des articles pour leurs utilisateurs. L’un d’entre eux, appelé SpinRewriter, permet aux utilisateurs de créer 1 000 versions légèrement différentes du même article en un seul clic et de les publier automatiquement sur autant de sites WordPress que vous le souhaitez à l’aide d’un plugin payant. Il propose également un outil qui permet aux utilisateurs de gérer autant de sites Web qu’ils le souhaitent à partir d’un seul tableau de bord.

UN une société appelée Byword fait joyeusement de la publicité le « braquage SEO » qui « a volé 3,6 millions de trafic total à un concurrent » avec ce One Weird Trick (exporter le plan du site du concurrent et créer Versions générées par l’IA de 1 800 de leurs articles).

Ces versions d’articles générées par l’IA nuisent au secteur de l’information, en détournant efficacement les clics (et les revenus) des médias qui consacrent du temps et de l’argent réels à la rédaction des reportages.

Deuxièmement, Wired a écrit que The Hairpin, un blog indépendant populaire des années 2010, avait été repris par un fermier de clics IA qui a laissé certains des articles populaires mais a remplacé les noms des femmes qui les écrivaient par des noms d’hommes.

Enfin, à l’extrémité la plus toxique du spectre du spam IA, se trouvent les nécrologies générées par l’IA, pleines d’erreurs, qui causent une réelle douleur aux familles en deuil. En 2021, bien avant ChatGPT, Wired a signalé que des « pirates nécrologiques » récupéraient et copiaient les sites Web des pompes funèbres. Ils utilisent désormais l’IA pour une nouvelle tactique lucrative consistant à créer des vidéos YouTube et des sites Web contenant du spam à partir des nécrologies, capturant ainsi le trafic de recherche pour les personnes recherchant des informations sur les personnes récemment décédées.

Le New York Times a récemment rendu compte de la douleur causée par ces vidéos YouTube générées par l’IA à une famille en deuil. Après la mort d’un étudiant en tombant accidentellement sur les voies du métro de New York, des vidéos YouTube et des articles générés par l’IA sont rapidement apparus.

Ces nécrologies répondaient au fait que les escrocs avaient remarqué un regain d’intérêt pour les recherches autour du nom du jeune homme et du mot « métro ». Les escrocs ont rapidement intégré ces termes clés, ont demandé à AI d’écrire une nécrologie sur un ton conversationnel, puis l’ont publiée sur un site Web, a rapporté le Times. (La plupart des détails étaient erronés, mais cela n’a pas empêché le site d’apparaître dans les recherches Google.)

Les trois exemples, les imitateurs de 404 Media, le squatter de The Hairpin et les pirates nécrologiques diffèrent dans les détails. Mais ils ont une chose en commun : les mauvais acteurs, les escrocs et les spammeurs tentent de gagner de l’argent en utilisant l’IA pour diffuser d’énormes quantités de contenu afin d’atteindre le sommet des résultats de recherche Google.

En fin de compte, ce n’est pas un problème uniquement pour les journalistes qui se font voler leur contenu ou pour les familles en deuil, à juste titre bouleversées par le vol de tombes numériques. C’est un énorme problème pour Google. Cela finit par fournir des résultats inutiles aux utilisateurs, qui disposent de plus en plus d’autres options attrayantes, également grâce à l’IA pour la recherche.

Google a déclaré au New York Times qu’il était au courant de ces nécrologies spammées et qu’il s’efforçait d’y remédier (et en a supprimé certaines car elles violaient ses politiques).

Mais les mauvais acteurs ont souvent une longueur d’avance sur les plateformes, comme avec les images obscènes de Taylor Swift générées par l’IA qui ont proliféré sur X la semaine dernière.

L’IA va radicalement changer Internet, pour le meilleur ou pour le pire. Il appartient à Google et aux entreprises qui fabriquent ces outils d’IA de minimiser les dommages réels.