Un agent démocrate admet avoir commandé un faux appel automatisé à Biden utilisant l’IA

Steve Kramer, un consultant politique chevronné travaillant pour un candidat rival, a reconnu dimanche avoir commandé l’appel automatisé qui se faisait passer pour le président Joe Biden en utilisant l’intelligence artificielle, confirmant un rapport de NBC News selon lequel il était derrière l’appel.

Dans une déclaration et une interview avec NBC News, Kramer n’a exprimé aucun remords pour avoir créé le deepfake, dans lequel une imitation de la voix du président décourageait la participation à la primaire présidentielle démocrate du New Hampshire. Cet appel a déclenché plusieurs enquêtes des forces de l’ordre et provoqué un tollé de la part des responsables électoraux et des organismes de surveillance.

Je n’ai pas peur de témoigner, je sais pourquoi j’ai tout fait, a-t-il déclaré dimanche soir lors d’un entretien, le premier depuis qu’il s’est manifesté. Si un comité de surveillance de la Chambre veut que je témoigne, je vais exiger qu’il le diffuse à la télévision parce que j’en sais plus qu’eux.

Kramer a déclaré qu’il avait reçu une assignation à comparaître de la Commission fédérale des communications, qu’il soupçonnait qu’il pourrait être poursuivi en justice par une demi-douzaine de personnes et a déclaré qu’il pourrait même être condamné à une peine de prison, mais qu’il continuerait à travailler en politique.

NBC News a contacté la FCC pour commentaires.

Kramer a affirmé qu’il avait planifié le faux appel automatisé dès le début comme un acte de désobéissance civile visant à attirer l’attention sur les dangers de l’IA en politique. Il s’est comparé aux héros révolutionnaires américains Paul Revere et Thomas Paine. Il a déclaré qu’il fallait davantage de mesures de répression pour empêcher des gens comme lui de faire ce qu’il a fait.

C’est une façon pour moi de faire la différence, et je l’ai fait, a-t-il déclaré dans l’interview. Pour 500 $, j’ai obtenu environ 5 millions de dollars d’action, qu’il s’agisse d’une attention médiatique ou d’une action réglementaire.

Kramer a déclaré qu’il avait eu l’idée du canular tout seul et que cela n’avait rien à voir avec son client, le principal challenger de Biden, le représentant Dean Phillips, D-Minn. Phillips avait payé à Kramer plus de 250 000 $ au moment où l’appel automatisé avait été lancé en janvier, selon ses rapports de financement de campagne.

Phillips et sa campagne ont dénoncé l’appel automatisé, affirmant qu’ils n’avaient aucune connaissance de l’implication de Kramer et qu’ils l’auraient immédiatement licencié s’ils l’avaient su.

La secrétaire de presse de Phillips, Katie Dolan, a déclaré dimanche en réponse à la déclaration de Kramers : « Notre campagne réitère sa condamnation de ces appels et de tout effort visant à supprimer le vote.

L’équipe Phillips a embauché Kramer en décembre et janvier pour un travail d’accès aux bulletins de vote à New York et en Pennsylvanie, qui consiste à collecter des milliers de signatures d’électeurs afin qu’un candidat puisse se qualifier pour le scrutin.

Je suis sûr qu’une demi-douzaine de personnes tenteront de me poursuivre en justice, mais ils sont habitués à traiter avec des gens comme eux, a déclaré Kramer dans l’interview. Je peux vous dire qu’ils ne sont pas habitués à moi. J’ai lutté à l’université. »

Il a également reconnu avoir commandé un faux appel automatisé se faisant passer pour le sénateur Lindsey Graham, RS.C., qui, selon lui, n’était qu’un test.

Les appels ont été adressés à 300 électeurs républicains probables des primaires de Caroline du Sud. Il s’agissait d’un sondage dans lequel la voix de Graham demandait aux destinataires qui ils soutenaient lors de la primaire du GOP. Kramer a déclaré que le taux de réponse de la voix familière de Graham était quatre fois supérieur au taux de réponse à un appel automatisé.

Kramer a été lié pour la première fois au faux appel automatisé de Biden vendredi par un rapport de NBC News.

Alors pourquoi Kramer a-t-il attendu jusqu’à ce qu’il soit attrapé, si tel était son plan depuis le début ?

J’attendais la fin des primaires de Caroline du Sud, je ne voulais pas interférer avec cela, a-t-il déclaré dans l’interview. Il a également déclaré que ses appels se faisant passer pour le président, qui ont été adressés à plus de 5 000 électeurs du New Hampshire pour leur dire de ne pas voter, n’allaient rien changer à cette primaire.

« Si je m’étais prononcé tout de suite, cela enlèverait l’objectif de l’appel », a-t-il ajouté, affirmant qu’il fallait du temps pour permettre aux régulateurs d’agir.

Jusqu’à ce que Carpenter se manifeste, il était difficile de savoir si le monde saurait un jour qui était à l’origine de la première utilisation connue d’un deepfake d’IA dans une campagne présidentielle.

Paul Carpenter, un magicien de rue de la Nouvelle-Orléans, a déclaré que Kramer l’avait embauché pour utiliser un logiciel d’IA afin de créer un fichier audio reproduisant la voix de Biden lisant un script préparé et fourni par Kramer.

Carpenter a été payé 150 $ pour le travail, selon les transactions Venmo et les messages texte qu’il a partagés avec NBC News.

Kramer a déclaré dans l’interview qu’il avait embauché Carpenter parce que le magicien n’avait pas de chance et que Kramer voulait l’aider.

Il a déclaré qu’il avait eu cette idée après que des clients lui aient demandé s’ils travaillaient en IA.

Kramer, spécialiste de la mobilisation électorale et président de sa propre petite entreprise, a travaillé sur des dizaines de campagnes fédérales, étatiques et locales au cours des 20 dernières années. Il a principalement travaillé pour les Démocrates et sa carrière est née de son implication dans les Jeunes Démocrates d’Amérique, bien que son client le plus important soit probablement Ye, le rappeur anciennement connu sous le nom de Kanye West, qui a embauché Kramer pour sa brève campagne présidentielle indépendante de 2020.

Carpenter, un artiste nomade, a déclaré qu’il avait rencontré Kramer par l’intermédiaire d’une connaissance commune l’année dernière et qu’il avait l’impression que Kramer travaillait pour la campagne Biden lorsqu’il a demandé à Carpenter de créer le fichier audio qui est finalement devenu l’appel automatisé.

Les autorités du New Hampshire enquêtent sur l’appel automatisé pour violation potentielle des lois de l’État contre la suppression des électeurs. Un groupe de travail multiétatique composé de procureurs généraux des États et axé sur les appels automatisés cherche à sévir contre les personnes impliquées dans l’appel automatisé de Biden afin de donner l’exemple à mesure que la technologie se généralise. Et la Federal Communications Commission a accéléré ses projets visant à interdire les appels automatisés d’IA en réponse à l’appel automatisé de Biden.

Dans sa déclaration, Kramer a confirmé que pour distribuer les appels, il avait embauché la société de télémarketing texane Life Co., qui a été désignée par les enquêteurs comme étant à l’origine des appels.

Ils n’avaient aucune connaissance du contenu de cet appel avant sa livraison, a écrit Kramer. Je les utiliserais à nouveau, mais ils en ont fini avec mes affaires.

Il a également confirmé le récit de Carpenter selon lequel il avait dirigé le contenu du faux appel automatisé de Biden, affirmant que l’appel avait été créé à l’aide d’un script de mon choix spécifique.

Même les individus agissant seuls peuvent utiliser rapidement et facilement l’IA à des fins trompeuses et perturbatrices, a ajouté Kramer.