De fausses images montrant Trump avec des partisans noirs mettent en lumière les inquiétudes concernant l’IA et les élections

WASHINGTON (AP) À première vue, des images circulant en ligne montrant l’ancien président Donald Trump entouré de groupes de Noirs souriants et riant, cela n’a rien d’extraordinaire, mais un examen plus attentif est révélateur.

Un éclairage étrange et des détails trop parfaits fournissent des indices sur le fait qu’ils ont tous été générés par l’intelligence artificielle. Les photos, qui n’ont aucun lien avec la campagne Trump, sont apparues comme Trump cherche à convaincre les électeurs noirs dont les sondages montrent qu’ils restent fidèles au président Joe Biden.

Les images fabriquées, mises en évidence dans une récente enquête de la BBC, fournissent des preuves supplémentaires à l’appui des avertissements selon lesquels l’utilisation d’images générées par l’IA ne fera qu’augmenter à l’approche des élections générales de novembre. Les experts ont déclaré qu’ils soulignaient le danger que tout groupe de Latinos, de femmes et d’électeurs masculins plus âgés puisse être ciblé avec des images réalistes destinées à induire en erreur et confondre ainsi que démontrer la nécessité d’une réglementation autour de la technologie.

Dans un rapport publié cette semaine, des chercheurs du Center for Countering Digital Hate, une organisation à but non lucratif, ont utilisé plusieurs programmes d’IA populaires pour montrer à quel point il est facile de créer deepfakes réalistes qui peut tromper les électeurs. Les chercheurs ont pu générer des images de Atout rencontre avec des agents russes, Biden bourrer les urnes et des miliciens armés dans les lieux de vote, même si nombre de ces programmes d’IA affirment avoir des règles interdisant ce type de contenu.

Le centre a analysé certaines des récentes contrefaçons de Trump et des électeurs noirs et a déterminé qu’au moins une avait été créée à l’origine comme une satire, mais qu’elle était maintenant partagée par les partisans de Trump comme preuve de son soutien parmi les Noirs.

Plateformes de médias sociaux et les entreprises d’IA je dois faire plus pour protéger les utilisateurs des effets nocifs de l’IA, a déclaré Imran Ahmed, PDG et fondateur du centre.

Si une image vaut mille mots, alors ces générateurs d’images dangereusement vulnérables, associés aux lamentables efforts de modération du contenu des médias sociaux traditionnels, représentent un outil aussi puissant que jamais pour les mauvais acteurs visant à tromper les électeurs, a déclaré Ahmed. Il s’agit d’un signal d’alarme pour que les entreprises d’IA, les plateformes de médias sociaux et les législateurs agissent maintenant ou mettent la démocratie américaine en danger.

Les images ont suscité l’inquiétude à droite comme à gauche, car elles pourraient induire les gens en erreur sur le soutien de l’ancien président parmi les Afro-Américains. Certains dans l’orbite de Trump ont exprimé leur frustration face à la circulation de fausses images, estimant que les scènes fabriquées sapaient l’approche républicaine auprès des électeurs noirs.

Si vous voyez une photo de Trump avec des Noirs et que vous ne la voyez pas publiée sur une campagne officielle ou sur une page de substitution, cela ne s’est pas produit, a déclaré Diante Johnson, présidente de la Fédération conservatrice noire. Il est absurde de penser que la campagne Trump devrait utiliser l’IA pour montrer son soutien aux Noirs.

Les experts s’attendent à des efforts supplémentaires pour utiliser les deepfakes générés par l’IA pour cibler des blocs d’électeurs spécifiques dans des États clés, tels que les Latinos, les femmes, les Américains d’origine asiatique et les conservateurs plus âgés, ou tout autre groupe démographique qu’une campagne espère attirer, induire en erreur ou effrayer. Avec des dizaines de pays organisent des élections cette année, les défis posés par les deepfakes sont un problème mondial.

En janvier, les électeurs du New Hampshire ont reçu un appel automatisé qui imitait la voix de Biden leur disant, à tort, que s’ils votaient aux primaires de cet État, ils ne seraient pas éligibles pour voter aux élections générales. Un consultant politique plus tard a reconnu avoir créé l’appel automatiséce qui pourrait être la première tentative connue d’utiliser l’IA pour interférer avec une élection américaine.

Un tel contenu peut avoir un effet corrosif même s’il n’est pas cru, selon une étude de février par des chercheurs de l’Université de Stanford examinant les impacts potentiels de l’IA sur les communautés noires. Lorsque les gens réalisent qu’ils ne peuvent pas faire confiance aux images qu’ils voient en ligne, ils peuvent commencer à réduire les sources d’information légitimes.

À mesure que le contenu généré par l’IA devient plus répandu et difficile à distinguer du contenu généré par l’homme, les individus peuvent devenir plus sceptiques et méfiants à l’égard des informations qu’ils reçoivent, ont écrit les chercheurs.

Même s’il ne parvient pas à tromper un grand nombre d’électeurs, Contenu généré par l’IA sur le vote, les candidats et les élections peut rendre plus difficile pour quiconque de distinguer les faits de la fiction, ce qui les amène à écarter les sources d’information légitimes et alimente une perte de confiance qui sape la confiance dans la démocratie tout en élargissant la polarisation politique.

Même si les fausses déclarations sur les candidats et les élections ne sont pas nouvelles, l’IA permet de créer plus rapidement, moins cher et plus facilement que jamais des images, des vidéos et des fichiers audio réalistes. Lorsqu’ils sont diffusés sur des plateformes de médias sociaux comme TikTok, Facebook ou X, les deepfakes de l’IA peuvent atteindre des millions de personnes avant entreprises technologiquesles responsables gouvernementaux ou les médias légitimes sont même conscients de leur existence.

L’IA s’est simplement accélérée et a fait avancer rapidement la désinformation, a déclaré Joe Paul, un dirigeant d’entreprise et défenseur qui a œuvré pour accroître l’accès numérique au sein des communautés de couleur. Paul a noté que les communautés noires ont souvent cette histoire de méfiance à l’égard des grandes institutions, notamment politiques et médiatiques, ce qui rend les communautés noires plus sceptiques à l’égard des récits publics à leur sujet ainsi que de la vérification des faits destinée à informer la communauté.

La culture numérique et la pensée critique constituent une défense contre la désinformation générée par l’IA, a déclaré Paul. L’objectif est de permettre aux gens d’évaluer de manière critique les informations qu’ils rencontrent en ligne. La capacité de penser de manière critique est un art perdu dans toutes les communautés, pas seulement dans les communautés noires.