Comment 10 tons de peau vont remodeler l’approche de Google en matière d’IA
Pendant des années, la technologie les entreprises se sont appuyées sur ce qu’on appelle l’échelle de Fitzpatrick pour classer les tons de peau pour leurs algorithmes de vision par ordinateur. Conçu à l’origine pour les dermatologues dans les années 1970, le système ne comprend que six tons de peau, un contributeur possible aux échecs bien documentés de l’IA dans l’identification des personnes de couleur. Maintenant, Google commence à intégrer une norme de 10 tons de peau dans ses produits, appelée l’échelle Monk Skin Tone (MST), de Google Search Images à Google Photos et au-delà. Le développement a le potentiel de réduire les biais dans les ensembles de données utilisés pour former l’IA dans tous les domaines, des soins de santé à la modération de contenu.
Google a annoncé pour la première fois son intention d’aller au-delà de l’échelle de Fitzpatrick l’année dernière. En interne, le projet remonte à un effort de l’été 2020 de quatre femmes noires de Google pour améliorer le fonctionnement de l’IA pour les personnes de couleur, selon un Fil Twitter de Xango Eye, un chef de produit responsable de l’IA dans l’entreprise. Lors de la conférence Google I/O d’aujourd’hui, la société a détaillé l’ampleur de l’impact que le nouveau système pourrait avoir sur ses nombreux produits. Google ouvrira également le MST, ce qui signifie qu’il pourrait remplacer Fitzpatrick en tant que norme de l’industrie pour évaluer l’équité des caméras et des systèmes de vision par ordinateur.
Pensez partout où il y a des images de visages de personnes utilisées où nous devons tester l’équité de l’algorithme, dit Eye.
L’échelle Monk Skin Tone porte le nom d’Ellis Monk, un sociologue de l’Université de Harvard qui a passé des décennies à étudier l’impact des colorismes sur la vie des Noirs aux États-Unis. Monk a créé la balance en 2019 et a travaillé avec des ingénieurs et des chercheurs de Google pour l’intégrer au développement de produits de l’entreprise.
La réalité est que les chances de la vie, les opportunités, toutes ces choses sont très liées à votre composition phénotypique, a déclaré Monk dans des remarques préparées dans une vidéo présentée à I/O. Nous pouvons éliminer ces biais dans notre technologie dès le début et nous assurer que la technologie dont nous disposons fonctionne aussi bien sur tous les tons de peau. Je pense que c’est un énorme pas en avant.
Une première analyse réalisée l’année dernière par les chercheurs de Monk et Google a révélé que les participants se sentaient mieux représentés par le MST que par l’échelle de Fitzpatrick. Dans une FAQ publiée mercredi, Google affirme qu’avoir plus de 10 tons de peau peut ajouter de la complexité sans valeur supplémentaire, contrairement à des industries comme le maquillage, où des entreprises comme Rihannas Fenty Beauty proposent plus de 40 nuances. Google poursuit ses travaux pour valider l’échelle Monk Skin Tone dans des endroits comme le Brésil, l’Inde, le Mexique et le Nigeria, selon une source proche du dossier. De plus amples détails sont attendus prochainement dans un article de recherche universitaire.
L’entreprise va maintenant étendre son utilisation du MST. Google Images offrira une option pour trier les résultats de recherche liés au maquillage par teint de peau en fonction de l’échelle, et des filtres pour les personnes ayant plus de mélanine arriveront sur Google Photos plus tard ce mois-ci. Si Google adoptait l’échelle de 10 tons de peau dans ses gammes de produits, cela pourrait avoir des implications pour évaluer équitablement les algorithmes utilisés dans les résultats de recherche Google, les smartphones Pixel, les algorithmes de classification YouTube, les voitures autonomes Waymo, etc.