L’IA pose de nouvelles menaces pour les salles de rédaction, et elles agissent

Les responsables des salles de rédaction se préparent au chaos alors qu’ils envisagent des garde-fous pour protéger leur contenu contre l’agrégation et la désinformation basées sur l’intelligence artificielle.

Le New York Times et NBC News font partie des organisations qui tiennent des pourparlers préliminaires avec d’autres sociétés de médias, de grandes plates-formes technologiques et Digital Content Next, l’organisation commerciale de l’information numérique de l’industrie, pour élaborer des règles sur la façon dont leur contenu peut être utilisé par des outils d’intelligence artificielle en langage naturel. , selon des personnes proches du dossier.

La dernière tendance de l’IA générative peut créer des blocs de texte ou d’images apparemment nouveaux en réponse à des requêtes complexes telles que « Rédiger un rapport sur les revenus dans le style du poète Robert Frost » ou « Dessiner une image de l’iPhone tel que rendu par Vincent Van Gogh ».

Certains de ces programmes d’IA générative, tels que ChatGPT d’Open AI et Bard de Google, sont formés sur de grandes quantités d’informations accessibles au public sur Internet, y compris le journalisme et l’art protégé par le droit d’auteur. Dans certains cas, le matériel généré est en fait extrait presque textuellement de ces sources.

Les éditeurs craignent que ces programmes ne sapent leurs modèles commerciaux en publiant des contenus réutilisés sans crédit et en créant une explosion de contenus inexacts ou trompeurs, diminuant la confiance dans les actualités en ligne.

Digital Content Next, qui représente plus de 50 des plus grandes organisations médiatiques américaines, dont le Washington Post et le parent du Wall Street Journal, News Corp., a publié cette semaine sept principes pour « le développement et la gouvernance de l’IA générative ». Ils traitent des questions de sécurité, de compensation pour la propriété intellectuelle, de transparence, de responsabilité et d’équité.

Les principes sont censés être une voie de discussion future. Ils incluent : « Les éditeurs ont le droit de négocier et de recevoir une compensation équitable pour l’utilisation de leur propriété intellectuelle » et « Les déployeurs de systèmes GAI devraient être tenus responsables des résultats du système » plutôt que des règles définissant l’industrie. Digital Content Next a partagé les principes avec son conseil d’administration et les comités concernés lundi.

L’urgence derrière la construction d’un système de règles et de normes pour l’IA générative est intense, a déclaré Jason Kint, PDG de Digital Content Next.

« Je n’ai jamais vu quoi que ce soit passer d’un problème émergent à la domination d’autant de flux de travail depuis que je suis PDG », a déclaré Kint, qui dirige Digital Content Next depuis 2014. « Nous avons eu 15 réunions depuis février. Tout le monde se penche sur tous les types de médias. »

Le développement de l’IA générative dans les mois et les années à venir domine la conversation médiatique, a déclaré Jim VandeHei, PDG d’Axios.

« Il y a quatre mois, je ne pensais pas ou ne parlais pas d’IA. Maintenant, c’est tout ce dont nous parlons », a déclaré VandeHei. « Si vous êtes propriétaire d’une entreprise et que l’IA n’est pas quelque chose qui vous obsède, vous êtes fou. »

L’IA générative présente à la fois des gains d’efficacité potentiels et des menaces pour le secteur de l’information. La technologie peut créer de nouveaux contenus tels que des jeux, des listes de voyage et des recettes qui offrent des avantages aux consommateurs et aident à réduire les coûts.

Mais l’industrie des médias est également préoccupée par les menaces de l’IA. Les entreprises de médias numériques ont vu leurs modèles commerciaux s’effondrer ces dernières années alors que les entreprises de médias sociaux et de recherche, principalement Google et Facebook, récoltaient les fruits de la publicité numérique. Vice a déclaré faillite le mois dernier, et les actions du site d’information BuzzFeed se sont négociées à moins de 1 dollar pendant plus de 30 jours et la société a reçu un avis de radiation du marché boursier Nasdaq.

Dans ce contexte, des leaders des médias tels que le président de l’IAC, Barry Diller, et le PDG de News Corp., Robert Thomson, poussent les grandes entreprises technologiques à payer pour tout contenu qu’elles utilisent pour former des modèles d’IA.

« Je suis toujours étonné que tant d’entreprises de médias, dont certaines sont maintenant fatalement enfouies sous la ligne de flottaison, aient été réticentes à défendre leur journalisme ou la réforme d’un marché publicitaire numérique manifestement dysfonctionnel », a déclaré Thomson lors de son discours d’ouverture à l’International Congrès mondial des médias d’information de la News Media Association à New York le 25 mai.

Lors d’une conférence Semafor en avril à New York, Diller a déclaré que l’industrie de l’information devait s’unir pour exiger un paiement ou menacer de poursuivre en vertu de la loi sur le droit d’auteur, le plus tôt possible.

« Ce que vous devez faire, c’est faire dire à l’industrie que vous ne pouvez pas supprimer notre contenu tant que vous n’avez pas mis au point des systèmes permettant à l’éditeur d’obtenir un moyen de paiement », a déclaré Diller. « Si vous prenez réellement ces [AI] systèmes, et que vous ne les connectez pas à un processus où il existe un moyen d’être indemnisé, tout sera perdu. »

Au-delà des préoccupations liées au bilan, la préoccupation la plus importante en matière d’IA pour les organes de presse est d’alerter les utilisateurs sur ce qui est réel et ce qui ne l’est pas.

« En gros, je suis optimiste à ce sujet en tant que technologie pour nous, avec la grande mise en garde que la technologie pose d’énormes risques pour le journalisme lorsqu’il s’agit de vérifier l’authenticité du contenu », a déclaré Chris Berend, responsable du numérique chez NBC News Group, qui a ajouté qu’il s’attend à ce que l’IA fonctionne aux côtés des êtres humains dans la salle de rédaction plutôt que de les remplacer.

Il existe déjà des signes du potentiel de l’IA pour diffuser de la désinformation. Le mois dernier, un compte Twitter vérifié appelé « Bloomberg Feed » a tweeté une fausse photo d’une explosion au Pentagone à l’extérieur de Washington, DC Bien que cette photo ait été rapidement démystifiée comme fausse, elle a entraîné une brève baisse des cours des actions. Des contrefaçons plus avancées pourraient créer encore plus de confusion et provoquer une panique inutile. Ils pourraient également endommager les marques. « Bloomberg Feed » n’avait rien à voir avec la société de médias Bloomberg LP.

« C’est le début de ce qui va être un enfer », a déclaré VandeHei. « Ce pays va voir une prolifération massive de déchets de masse. Est-ce réel ou n’est-ce pas réel? Ajoutez cela à une société qui réfléchit déjà à ce qui est réel ou non réel. »

Le gouvernement américain peut réglementer le développement de l’IA par Big Tech, mais le rythme de la réglementation sera probablement en retard sur la vitesse à laquelle la technologie est utilisée, a déclaré VandeHei.

Les entreprises technologiques et les salles de rédaction s’efforcent de lutter contre l’IA potentiellement destructrice, comme une photo récemment inventée du pape François portant une grande doudoune. Google a déclaré le mois dernier qu’il encoderait des informations permettant aux utilisateurs de déchiffrer si une image est créée avec l’IA.

ABC News de Disney « a déjà une équipe qui travaille 24 heures sur 24, vérifiant la véracité de la vidéo en ligne », a déclaré Chris Looft, producteur coordinateur, vérification visuelle, chez ABC News.

« Même avec des outils d’IA ou des modèles d’IA génératifs qui fonctionnent dans du texte comme ChatGPT, cela ne change rien au fait que nous faisons déjà ce travail », a déclaré Looft. « Le processus reste le même, pour combiner le reportage avec des techniques visuelles pour confirmer la véracité de la vidéo. Cela signifie décrocher le téléphone et parler à des témoins oculaires ou analyser des métadonnées. »

Ironiquement, l’une des premières utilisations de l’IA prenant le relais du travail humain dans la salle de rédaction pourrait être la lutte contre l’IA elle-même. Berend de NBC News prédit qu’il y aura une course aux armements dans les années à venir de « l’IA surveillant l’IA », alors que les entreprises de médias et de technologie investissent dans des logiciels capables de trier et d’étiqueter correctement le vrai du faux.

« La lutte contre la désinformation est celle de la puissance informatique », a déclaré Berend. « L’un des principaux défis en matière de vérification de contenu est d’ordre technologique. C’est un défi tellement important qu’il doit être relevé par le biais d’un partenariat. »

La confluence d’une technologie puissante en évolution rapide, de la contribution de dizaines d’entreprises importantes et de la réglementation du gouvernement américain a conduit certains dirigeants de médias à reconnaître en privé que les mois à venir pourraient être très compliqués. L’espoir est que l’ère actuelle de la maturité numérique puisse aider à trouver des solutions plus rapidement qu’aux premiers jours d’Internet.

Divulgation: NBCUniversal est la société mère du NBC News Group, qui comprend à la fois NBC News et CNBC.

REGARDER : Nous devons réglementer l’IA générative