Des escrocs ont utilisé des visages générés par l’IA pour se faire passer pour un cabinet d’avocats de Boston

Nicole Palmer est une avocate diplômée de l’Université de Columbia. Son profil indique qu’elle est spécialisée dans l’application et la protection du design industriel et qu’elle construit sa carrière avec succès depuis 30 ans.

Le seul problème c’est qu’elle n’existe pas. Et elle m’a aidé à découvrir une opération d’escroquerie en ligne impliquée dans des activités louches, notamment l’extorsion de liens de retour de blogueurs et de propriétaires de sites Web.

J’ai passé une bonne partie de la semaine dernière à enquêter sur Arthur Davidson, le soi-disant cabinet d’avocats pour lequel travaille Nicole. Ce que j’ai trouvé était troublant, un témoignage de la façon dont les progrès de la technologie ont permis aux escrocs de créer facilement des tenues d’apparence légitime pour s’attaquer à leurs victimes.

J’espère que mes découvertes aideront les autres à devenir plus conscients et à se protéger contre des escroqueries similaires.

Violation du droit d’auteur DMCA

Le 13 avril, Nicole m’a envoyé par e-mail un avis de violation du droit d’auteur DMCA, se présentant comme une avocate en marques d’Arthur Davidson Legal Services et affirmant qu’une image que j’avais utilisée dans TechTalks appartenait à l’un de ses clients.

Notre client est heureux que son image soit utilisée et partagée sur Internet. Cependant, un crédit d’image approprié est dû pour une utilisation passée ou en cours, a-t-elle écrit.

J’avais sept jours pour ajouter le crédit d’image à la page incriminée avec un lien vers la page d’accueil du site Web de ses clients, a-t-elle ajouté. Dans le cas contraire, nous sommes tenus d’engager une action en justice.

(J’ai intentionnellement masqué le nom et le site Web des clients ci-dessus pour des raisons que j’expliquerai bientôt.)

L’e-mail se terminait par des références à l’article 512 (c) du DMCA et une signature professionnelle. Ça avait l’air légitime. La seule chose qui semblait un peu décalée était un lien vers Imgur, un site Web de partage d’images où n’importe qui peut télécharger des images sans même créer de profil. (Il était donc parfaitement possible qu’ils aient téléchargé l’image de mon site Web, l’aient téléchargée sur Imgur, puis aient prétendu que leur image était là avant la mienne.)

Je garde généralement une trace des sources des images que j’utilise sur mon site Web et j’essaie de m’assurer que je n’utilise la propriété intellectuelle de personne sans autorisation. Mais des erreurs se produisent, et j’étais plus qu’heureux de revérifier ma source et de fournir une attribution au client si je lui avais fait du tort.

Comme je l’avais deviné, l’image provenait de Pexels, une bibliothèque de photos en ligne sans licence. J’ai renvoyé un e-mail à Nicole avec un lien vers l’image et la licence Creative Commons indiquant qu’aucune attribution n’est requise. J’ai demandé des éclaircissements sur la raison pour laquelle elle pensait que l’image appartenait à son client.

Et puis j’ai attendu.

Un site Web décent avec peu de profondeur

N’ayant rien entendu, je suis revenu le lendemain, lui demandant si elle abandonnait l’affaire. À ce stade, je commençais à soupçonner qu’il s’agissait d’une tactique d’intimidation pour me forcer à insérer un lien retour vers le site Web de ses clients.

L’une des méthodes pour améliorer la position de vos sites dans les pages de résultats des moteurs de recherche consiste à créer des liens vers vos pages Web. J’ai eu des rencontres précédentes avec des entreprises ou des individus qui avaient essayé de se faufiler des liens dans mon site Web. Mais le faire avec une façade légale était nouveau pour moi.

J’ai décidé de regarder de plus près le site Web d’Arthur Davidson Legal Services. De toute évidence, celui qui avait créé le site Web avait fait du bon travail. Tout d’abord, le nom de domaine (arthurdavidson.com) a été bien choisi, suggérant que le site Web et l’entreprise existent depuis longtemps, peut-être depuis les premiers jours des dot-com.

Selon le site Web, Arthur Davidson travaille depuis 2009, a été impliqué dans 420 cas et a obtenu 380 victoires (taux de réussite d’environ 90%).

Le site Web répertorie également un numéro de téléphone de Boston et une adresse au 177 Huntington Ave, un bâtiment qui abrite plusieurs autres cabinets d’avocats.

Le site Web a un blog avec plusieurs articles, dont un qui dit commodément que la violation du droit d’auteur peut entraîner une amende de 10 000 $.

La page à propos présente les profils de 18 avocats, diplômés de Northeastern, Brown, Princeton, Harvard et d’autres universités renommées. Mais contrairement à d’autres sites Web professionnels, aucun des avocats ne répertorie son profil LinkedIn sur le site Web.

Un domaine parqué

Une enquête plus approfondie a révélé de nombreux autres drapeaux rouges. Tout d’abord, j’ai recherché l’enregistrement des domaines sur le site Web de l’ICANN (Internet Corporation for Assigned Names and Numbers). Apparemment, Arthur Davidson travaillait depuis 13 ans mais vient de décider de créer son domaine en février 2022.

Et puis j’ai recherché l’enregistrement des sites Web sur la Wayback Machine (archive.org). Apparemment, le domaine avait été garé entre 2005 et 2022.

(Pour être juste, il pourrait y avoir une explication logique à cela : le cabinet d’avocats a peut-être utilisé un autre nom de domaine et a récemment acheté arthurdavidson.com à son ancien propriétaire.)

Et puis j’ai recherché le nom de l’entreprise sur Google et j’ai consulté la section des actualités. Logiquement, un cabinet qui abrite tant d’avocats de renom et prétend avoir remporté des procès de plusieurs millions de dollars au nom de ses clients aurait dû au moins être mentionné dans les nouvelles à quelques reprises.

Aucun résultat.

Visages du GAN

Presque sûr qu’il s’agissait d’une arnaque, j’ai regardé de plus près la page À propos de nous. Les photos des avocats semblaient un peu déplacées. J’ai ouvert la photo de Nicoles en taille réelle sur un onglet séparé.

Ce que j’ai vu était une image créée par un réseau contradictoire génératif, un modèle d’apprentissage en profondeur qui peut être formé pour créer des visages, de l’art ou toute autre chose.

Les GAN ont parcouru un long chemin depuis leur invention en 2014. Aujourd’hui, ils produisent une résolution plus élevée et des images plus naturelles que leurs versions précédentes. Il existe un site Web appelé This Person Does Not Exist qui génère des visages GAN. Certains d’entre eux sont étrangement convaincants.

Mais les GAN créent toujours des artefacts non naturels qui peuvent être facilement détectés si vous êtes familier avec la technologie. Vous pouvez facilement repérer des irrégularités dans des endroits tels que les boucles d’oreilles, les nuances sur le côté du visage, le bord des cheveux et de la barbe, les rides, les bordures des sourcils et les côtés des lunettes.

Avec des preuves claires qu’il s’agissait bien d’une opération d’escroquerie, j’ai décidé d’enquêter sur Arthur Davidson et de rapporter mes découvertes. J’ai contacté le client au nom duquel Nicole m’avait contacté le 16 avril, lui demandant de clarifier sa relation avec Arthur Davidson. Le 18 avril, un agent de soutien a répondu qu’il n’avait aucun lien avec le cabinet d’avocats.

Peu de temps après, le site Web d’Arthur Davidson a été fermé. (Vous pouvez toujours en voir une version sur la Wayback Machine.)

Même si je soupçonne que le client était en fait en contact avec le soi-disant cabinet d’avocats, puisque je n’ai aucune preuve concrète, j’ai décidé de ne pas les mentionner.

Réflexions finales
Je soupçonne qu’Arthur Davidson était dirigé par une équipe SEO grise. Pour l’instant, ils sont en panne. Mais je suis sûr qu’ils apparaîtront bientôt sous un autre nom. Avec le recul, ce qu’ils ont fait n’était pas très difficile. Tout ce dont ils avaient besoin était une copie Web pour les cabinets d’avocats (facile à obtenir sur le Web et à reformuler), quelques modèles d’e-mails DCMA (disponibles gratuitement), quelques visages générés par GAN (il existe un site Web pour cela), des connaissances en conception Web , et un peu d’argent pour acheter un numéro de téléphone et un domaine. Et ils utilisaient une tactique d’ingénierie sociale pour provoquer un sentiment d’urgence (délai de sept jours, action en justice, etc.) chez leurs victimes pour qu’elles agissent sans réfléchir.

J’espère que ces résultats aideront d’autres propriétaires de sites Web à éviter d’être victimes d’escroqueries similaires. Tous les outils que j’ai utilisés pour enquêter sur Arthur Davidson sont gratuits et faciles à utiliser et vous pouvez le faire vous-même. Ne pas paniquer. Faites vos recherches et tout ira bien.

Une note sur l’anonymat : je n’ai aucun problème avec les personnes qui souhaitent cacher leur identité en ligne. Il existe des dizaines de raisons légitimes de le faire, mais arnaquer d’autres personnes n’en fait pas partie.

Quant aux entreprises qui envisagent d’utiliser les services de tels escrocs, mon conseil est le suivant : ne le faites pas. La personne suivante pourrait ne pas être aussi indulgente que moi. D’après ma propre expérience, il n’y a pas de raccourci pour gagner en autorité sur Internet. Créez un excellent contenu, développez votre réseau et trouvez des moyens légitimes de distribuer votre contenu, et les gens vous donneront des backlinks. Les raccourcis louches pourraient finir par faire plus de dégâts que de bien à votre site Web et à votre entreprise.

Cet article a été écrit à l’origine par Ben Dickson et publié par Ben Dickson surTechTalks, une publication qui examine les tendances de la technologie, comment elles affectent notre façon de vivre et de faire des affaires, et les problèmes qu’elles résolvent. Mais nous discutons également du côté pervers de la technologie, des implications les plus sombres des nouvelles technologies et de ce que nous devons surveiller. Vous pouvez lire l’article original ici.