La vidéo sur le cancer de la princesse Catherine donne naissance à une nouvelle vague de complots en matière d’IA

Les utilisateurs de TikTok, X et Facebook ont ​​​​partagé des vidéos pointant du fil d’Ariane présumé de l’IA, comme une bague disparaissant et réapparaissant sur la main de Catherine. D’autres ont dit que ses cheveux bougeaient de manière anormale ou que le lit de jonquilles en arrière-plan était étrangement immobile.

Je ne sais plus quoi croire, a déclaré une femme dans une vidéo avec 1,4 million de vues sur TikTok, capturant la confusion générale autour de certains événements d’actualité et d’images en ligne au milieu des progrès rapides des technologies de l’IA. La femme dont la biographie TikTok la décrit comme une voyageuse du monde, une photographe, une designer et un investisseur immobilier a ensuite contribué à la confusion en décomposant ce qu’elle prétendait être des signes d’IA dans la déclaration enregistrée de Catherine.

BBC Studios, une branche de production télévisée de la BBC, a confirmé avoir filmé la vidéo du message de Catherine la semaine dernière au château de Windsor, et le palais de Kensington a déclaré au Washington Post que les accusations de falsification de l’IA étaient factuellement inexactes. Plusieurs experts en criminalistique deepfake sont d’accord, affirmant qu’ils ont examiné la vidéo et n’ont trouvé aucun signe de manipulation de l’IA.

Tous ces analystes légistes qui prétendent trouver des preuves de manipulation de l’IA sont une combinaison spectaculaire d’ignorance et d’arrogance, a déclaré Hany Farid, professeur à l’Université de Californie à Berkeley, spécialisé dans l’analyse d’images numériques. Farid a déclaré qu’il avait examiné la vidéo et n’avait trouvé absolument aucune preuve de l’implication d’IA.

Plus tôt cette semaine, TikTok a semblé détourner les utilisateurs des recherches liées à de telles allégations. Une recherche sur le cancer de Kate Middleton ai a plutôt montré des résultats pour le cancer de Kate Middleton. L’utilisateur avait alors la possibilité d’accéder aux résultats de la recherche initiale. TikTok a refusé de commenter.

L’épisode met en évidence la difficulté croissante de déterminer ce qui est réel et ce qui ne l’est pas à l’ère de l’IA. L’ancien président Donald Trump a déjà accusé à tort une publicité politique peu flatteuse d’utiliser du contenu généré par l’IA, et de fausses images de politiciens des deux côtés de l’allée ont largement circulé sur les réseaux sociaux, déstabilisant le concept de vérité lors des élections de 2024.

L’IA jette une ombre assez grande, a déclaré Farid. Les moments majeurs en ligne sont immédiatement suspects, alimentant la culture du complot.

Les spéculations sur les réseaux sociaux à propos de Catherine ont éclaté après une série d’événements déroutants qui ont laissé le public désireux d’en savoir plus sur la santé et le bonheur de la princesse. En janvier, le palais de Kensington a publié une déclaration selon laquelle Catherine avait subi avec succès une opération abdominale. Des semaines se passèrent sans que la princesse n’apparaisse en public. Puis, début mars, le palais a publié une joyeuse photo de Catherine et de ses trois jeunes enfants, qui, comme il l’a admis plus tard, avait été retouchée. Alors que les principaux organes de presse retiraient la publication des photos, l’incident souleva davantage de questions et exacerba les théories du complot.

Puis vint la vidéo du vendredi, dans laquelle Catherine, à l’air pâle, est assise seule sur un banc devant un jardin de fleurs printanières. Après avoir partagé la nouvelle de sa maladie, elle décrit un effort déchirant pour tout expliquer à George, Charlotte et Louis d’une manière qui leur convient et pour les rassurer sur le fait que tout ira bien. Et elle demande au monde de la laisser s’occuper en paix de sa jeune famille.

La révélation de son diagnostic de cancer a stupéfié les téléspectateurs et suscité un élan d’affection pour la princesse. Certains conspirateurs en ligne se sont excusés d’avoir alimenté les rumeurs sur sa longue absence de la scène publique. Mais un nouveau doute est rapidement apparu : quelqu’un peut-il expliquer comment rien ne bougeait dans le décor, les fleurs, l’herbe, etc., a postulé un utilisateur sur X (qui a été rapidement fustigé comme un imbécile par une éminente personnalité de la télévision britannique).

Wael Abdul-Almageed, professeur d’IA à l’Université de Clemson qui développe un logiciel de détection des deepfakes, a déclaré que lui et un étudiant avaient passé la vidéo à travers leur détecteur et n’avaient trouvé aucune indication de contenu d’IA. Abd-Almageed a ralenti la vidéo pour l’examiner manuellement, ne trouvant là encore aucune preuve de falsification par l’IA. Si des détails tels que sa bague semblent flous, dit-il, c’est à cause du flou de mouvement et de la compression des vidéos.

Un autre expert, Hao Li, PDG et co-fondateur de la société d’effets vidéo génératifs d’IA Pinscreen, a convenu que la vidéo semble authentique, notant les insectes qui volent devant le visage de Catherine et le subtil balancement des fleurs jaunes en arrière-plan.

Un seul expert en IA contacté par The Post a soutenu ces soupçons : la start-up de détection de Deepfake Deep Media, qui a des contrats avec le Pentagone, a déclaré avoir trouvé une forte probabilité que la voix et le visage de Catherine aient été manipulés avec l’IA.

Mais d’autres experts, dont Farid, Abd-Almageed et Claire Wardle, co-fondateur et co-directeur de l’Information Futures Lab à l’Université Brown, ont examiné les conclusions de Deep Media à la demande du Post et ont déclaré avoir trouvé les résultats peu convaincants.

Étant donné que même les experts en désinformation ont désormais du mal à évaluer l’authenticité du contenu en ligne, Browns Wardle a exhorté des institutions telles que Kensington Palace et la BBC à faire davantage pour valider publiquement les images qu’elles partagent avant que les conspirations en ligne ne prennent de l’ampleur.

Les conjectures persistantes autour de Catherine soulignent la difficulté d’évaluer ce qui est réel dans un paysage médiatique basé sur l’IA, a-t-elle déclaré, ainsi que les risques liés au recours à des détecteurs de deepfake pour séparer les faits de la fiction.

La plupart des gens n’ont pas accès à des outils permettant d’effectuer ce type d’analyse, a déclaré Wardle. Et même ceux qui prétendent disposer de ces outils ne sont en aucun cas sûrs à 100 %.