La photographie IA envahit les réseaux sociaux. Pourquoi certains sont-ils préoccupés par la confidentialité ?

La dernière tendance des médias sociaux à balayer les flux des gens consiste à partager des avatars virtuels générés via l’application Lensa AI.

Lensa, qui existe depuis 2018, permet aux utilisateurs de télécharger 10 à 20 photos de leurs selfies ou portraits, puis il crée des dizaines, voire des centaines, d’images numériques appelées « Magic Avatars ».

Bien que les images puissent être considérées comme des œuvres d’art numérique, ceux qui s’inquiètent de la vie privée en ligne ont commencé à s’inquiéter de la collecte de données.

L’expert en cybersécurité Andrew Couts est rédacteur en chef de la sécurité chez Wired et supervise la politique de confidentialité, la sécurité nationale et la couverture de surveillance. Il a déclaré à « Good Morning America » ​​qu’il est presque « impossible » de savoir ce qu’il advient des photos d’un utilisateur après leur téléchargement sur l’application.

« Il est impossible de savoir, sans un audit complet des systèmes back-end de l’entreprise, à quel point vos photos peuvent être sûres ou non », a déclaré Couts. « La société prétend « supprimer » les données faciales après 24 heures et semble avoir mis en place de bonnes politiques pour ses pratiques de confidentialité et de sécurité. »

Selon la politique de confidentialité de Lensa, les photos téléchargées sont automatiquement supprimées après la génération des avatars IA, et les données faciales sur d’autres parties de l’application sont automatiquement supprimées dans les 24 heures après avoir été traitées par Lensa.

Prisma Labs, Inc., le développeur de Lensa AI, a déclaré à ABC News dans un communiqué que les images téléchargées par les utilisateurs sont utilisées « uniquement dans le but de créer leurs propres avatars ».

« Les images des utilisateurs sont exploitées uniquement dans le but de créer leurs propres avatars. Le système crée une version personnalisée du modèle pour chaque utilisateur et les modèles ne se croisent jamais. Les photos des utilisateurs et leurs modèles sont supprimés dans les 24 heures après la fin du processus de création d’avatars », a déclaré la société dans un communiqué. « En termes très simples, il n’y a pas[t] un « réseau de neurones collectifs à taille unique » formé pour reproduire n’importe quel visage, sur la base d’apprentissages agrégés. »

« Nous mettons à jour nos Conditions & Conditions pour les rendre plus claires pour tous. L’autorisation très discutée d’utiliser le contenu pour le développement et l’amélioration du travail de Prisma et de ses produits fait référence au consentement des utilisateurs pour que nous formions la copie du modèle sur les 10 à 20 images que chaque utilisateur particulier a téléchargées », poursuit le communiqué. « Sans cette clause, nous n’aurions pas le droit d’effectuer cette formation pour chaque génération suivante. Nous sommes entièrement conformes au GDPR et au CCAP. Nous stockons le strict minimum de données pour activer nos services. Pour rappel, les photos de l’utilisateur sont supprimées de nos serveurs dès que les avatars sont générés. Les serveurs sont situés aux États-Unis »

Couts a ajouté qu’il n’était pas trop inquiet pour les photos car la plupart d’entre nous ont déjà nos visages sur les réseaux sociaux. Il a déclaré que sa principale préoccupation était la collecte de données pouvant être potentiellement extraites des téléphones des utilisateurs.

« La principale chose qui m’inquiéterait, ce sont les analyses comportementales qu’ils collectent », a déclaré Couts. « Si je devais utiliser l’application, je m’assurerais d’activer des paramètres de confidentialité aussi restrictifs que possible. »

Il a déclaré que son conseil, quelles que soient les applications téléchargées, est de renforcer la sécurité personnelle via les paramètres du téléphone.

« Vous pouvez modifier vos paramètres de confidentialité sur votre téléphone pour vous assurer que l’application ne collecte pas autant de données qu’elle semble pouvoir le faire », a-t-il déclaré. « Et vous pouvez vous assurer que vous ne partagez pas d’images contenant quelque chose de plus privé que votre visage. »