Ce qu’il faut savoir sur Lensa, l’application de portrait IA sur tous les réseaux sociaux

Écrit par Zoé Sottile, CNN

Si vous vous êtes connecté à une application de médias sociaux cette semaine, vous avez probablement vu des photos de vos amis, mais réimaginées comme des princesses féeriques, des personnages animés ou des êtres célestes.

Tout cela grâce à Lensa, une application qui utilise l’intelligence artificielle pour rendre des portraits numériques basés sur les photos soumises par les utilisateurs.

Les portraits très stylisés et accrocheurs de Lensa ont envahi Internet, mais ils ont également fait l’objet d’inquiétudes de la part d’experts en confidentialité, d’artistes numériques et d’utilisateurs qui ont remarqué que l’application rendait leur peau plus pâle ou leur corps plus mince.

Voici tout ce que vous devez savoir sur Lensa :

Zoe Sottile de CNN a généré cette image en soumettant des selfies à Lensa

Zoe Sottile de CNN a généré cette image en soumettant des selfies à la fonction « Magic Avatars » de Lensa. Le crédit: Lensa

Comment obtenir votre propre ‘avatar magique’

Les images qui circulent en ligne sont des produits de la fonction « Magic Avatars » de Lensa. Pour l’essayer, vous devez d’abord télécharger l’application Lensa sur votre téléphone.

Un abonnement d’un an à l’application, qui fournit également des services de retouche photo, coûte 35,99 $. Mais vous pouvez utiliser l’application pour un essai gratuit d’une semaine si vous souhaitez la tester avant de vous engager.

La génération des avatars magiques nécessite des frais supplémentaires. Tant que vous avez un abonnement ou un essai gratuit, vous pouvez obtenir 50 avatars pour 3,99 $, 100 pour 5,99 $ ou 200 pour 7,99 $.

Lensa recommande aux utilisateurs de soumettre 10 à 20 selfies pour obtenir les meilleurs résultats. Les images doivent être en gros plan de votre visage avec une variété d’arrière-plans, d’expressions faciales et d’angles différents. Lensa stipule également qu’il ne doit être utilisé que par des personnes de 13 ans et plus.

Lensa est un produit de Prisma, qui a atteint sa popularité en 2016 avec une fonction permettant aux utilisateurs de transformer leurs selfies en images dans le style d’artistes célèbres.

L’application explique dans sa politique de confidentialité qu’elle utilise la technologie API TrueDepth, et les photos fournies par l’utilisateur, ou « données faciales », sont utilisées « pour entraîner nos algorithmes à mieux fonctionner et vous montrer de meilleurs résultats ».

Nous avons testé l’application pour voir à quoi ça ressemble

Pour tester l’application, j’ai organisé 20 selfies qui, selon moi, montraient une variété d’expressions et d’angles et j’ai choisi l’option 100 avatars. Il a fallu environ 20 minutes à Lensa pour renvoyer mes avatars, qui se répartissaient en 10 catégories : fantaisie, fée princesse, focus, pop, stylé, anim, léger, kawaii, irisé et cosmique.

En général, j’avais l’impression que l’application faisait un travail décent en produisant des images artistiques basées sur mes selfies. Je ne pouvais pas tout à fait me reconnaître dans la plupart des portraits, mais je pouvais voir d’où ils venaient.

Il semblait reconnaître et répéter certaines caractéristiques, comme ma peau pâle ou mon nez rond, plus que d’autres. Certaines d’entre elles étaient dans un style plus réaliste et étaient assez proches pour que je puisse penser qu’elles étaient en fait des photos de moi si je les voyais de loin. D’autres étaient beaucoup plus stylisés et artistiques, donc ils me semblaient moins spécifiques.

Pour certaines femmes, l’application produit des images sexualisées

L’un des défis que j’ai rencontrés dans l’application a été décrit par d’autres femmes en ligne. Même si toutes les images que j’ai téléchargées étaient entièrement habillées et principalement des gros plans de mon visage, l’application a renvoyé plusieurs images avec de la nudité implicite ou réelle.

Dans l’une des images les plus désorientantes, on aurait dit qu’une version de mon visage était sur un corps nu. Sur plusieurs photos, on aurait dit que j’étais nu mais avec une couverture stratégiquement placée, ou l’image juste coupée pour cacher quoi que ce soit d’explicite. Et de nombreuses images, même lorsque j’étais entièrement habillé, comportaient une expression faciale sensuelle, un décolleté important et des vêtements étriqués qui ne correspondaient pas aux photos que j’avais soumises.

C’était surprenant, mais je ne suis pas la seule femme à l’avoir vécu. Olivia Snow, chercheuse au centre d’enquête critique sur Internet de l’UCLA et dominatrice professionnelle, a déclaré à CNN que l’application renvoyait des images nues à son image même lorsqu’elle soumettait des photos d’elle-même lorsqu’elle était enfant, une expérience qu’elle a documentée pour WIRED.

Snow a déclaré que la technologie d’intelligence artificielle comme celle utilisée par Lensa pourrait être utilisée pour générer du « pornographie de vengeance », c’est-à-dire faire des images nues de quelqu’un sans son consentement.

Pour Snow, la sortie était un signe du « manque total de modération du contenu » sur l’application. Elle a également appelé à une plus grande réglementation des applications d’IA comme Lensa.

Lensa n’a pas répondu à une demande de CNN de commenter l’application produisant des images nues ou sexualisées.

D’autres utilisateurs ont documenté différentes formes de biais produites dans leurs images Lensa, comme les utilisateurs noirs qui sont « blanchis à la chaux » et montrés plus pâles qu’ils ne le sont en réalité. De même, Aubrey Gordon, écrivain et militante des droits des graisses, a écrit sur son Instagram vérifié que l’application produisait des images qui la faisaient paraître beaucoup plus mince qu’elle ne l’est en réalité.

« Lensa fait vraiment des heures supplémentaires pour faire de moi une personne mince », a-t-elle écrit dans la légende.

Zoe Sottile de CNN a généré cette image en soumettant des selfies à Lensa

Zoe Sottile de CNN a généré cette image en soumettant des selfies à la fonction « Magic Avatars » de Lensa. Le crédit: Lensa

Les artistes numériques disent que l’application coopte leur travail

La technologie de Lensa repose sur un modèle d’apprentissage en profondeur appelé Stable Diffusion, conformément à sa politique de confidentialité. Stable Diffusion utilise un vaste réseau d’art numérique récupéré sur Internet, à partir d’une base de données appelée LAION-5B, pour entraîner son intelligence artificielle. Actuellement, les artistes ne peuvent pas accepter ou refuser que leur art soit inclus dans l’ensemble de données et donc utilisé pour former l’algorithme.

Cela a soulevé des inquiétudes chez certains artistes, qui disent que Stable Diffusion s’appuie sur leurs œuvres pour créer leurs propres images, mais ils ne sont ni crédités ni rémunérés pour leur travail. Plus tôt cette année, CNN a rendu compte de plusieurs artistes qui ont été bouleversés lorsqu’ils ont découvert que leur travail avait été utilisé sans leur consentement ni paiement pour former le réseau de neurones pour Stable Diffusion.

Plusieurs des artistes ont exprimé leur inquiétude que les applications pourraient également menacer leurs moyens de subsistance. Les artistes numériques ne peuvent pas rivaliser avec les prix bas et la rapidité d’exécution que l’intelligence artificielle permet pour un portrait numérique, disaient-ils à l’époque.

Le propriétaire de Lensa, Prisma, a tenté d’apaiser les inquiétudes concernant leur technologie en éliminant le travail des artistes numériques.

« Alors que les humains et l’IA apprennent les styles artistiques de manière semi-similaire, il existe des différences fondamentales : l’IA est capable d’analyser et d’apprendre rapidement à partir de grands ensembles de données, mais elle n’a pas le même niveau d’attention et d’appréciation pour l’art. comme un être humain, » a écrit la société sur Twitter sur 6 décembre.

Et « les sorties ne peuvent pas être décrites comme des répliques exactes d’une œuvre d’art particulière ».

www.actusduweb.com
Suivez Actusduweb sur Google News


Ce site utilise des cookies pour améliorer votre expérience. Nous supposerons que cela vous convient, mais vous pouvez vous désinscrire si vous le souhaitez. J'accepte Lire la suite