Sur la couleur de la peau, Xiang dit que les efforts pour développer des mesures supplémentaires et améliorées seront sans fin. «Nous devons continuer à essayer de progresser», dit-elle. Monk dit que différentes mesures pourraient s'avérer utiles en fonction de la situation. «Je suis très heureux qu'il y ait un intérêt croissant dans ce domaine après une longue période de négligence», dit-il. Le porte-parole de Google, Brian Gabriel, a déclaré que la société accueille les nouvelles recherches et les examine.

La couleur de la peau d'une personne provient de l'interaction de la lumière avec des protéines, des cellules sanguines et des pigments tels que la mélanine. La façon standard de tester les algorithmes de biais causée par la couleur de la peau a été de vérifier comment ils fonctionnent sur différents tons de peau, le long d'une échelle de six options passant du plus clair au plus foncé connu sous le nom d'échelle Fitzpatrick. Il a été initialement développé par un dermatologue pour estimer la réponse de la peau à la lumière UV. L'année dernière, les chercheurs d'IA de la technologie ont applaudi l'introduction par Google de l'échelle du moine, l'appelant plus inclusive.

Les chercheurs de Sony disent dans Une étude présentée au Conférence internationale sur la vision par ordinateur à Paris cette semaine qu'une couleur internationale est connue sous le nom Cielab Utilisé dans la modification photo et la fabrication pointe vers une manière encore plus fidèle de représenter le large éventail de la peau. Lorsqu'ils ont appliqué la norme CIELAB pour analyser des photos de différentes personnes, ils ont constaté que leur peau variait non seulement en ton – la profondeur de la couleur – mais aussi la teinte, ou la gradation de celle-ci.

Les échelles de couleur de peau qui ne capturent pas correctement les teintes rouges et jaunes de la peau humaine semblent avoir aidé certains biais non détectés dans les algorithmes d'image. Lorsque les chercheurs de Sony ont testé des systèmes d'IA open source, y compris un recrutement d'images développé par Twitter et une paire d'algorithmes générateurs d'images, ils ont trouvé Une faveur de la peau plus rouge, ce qui signifie un grand nombre de personnes dont la peau a plus d'une teinte jaune est sous-représentée dans les images finales que les algorithmes ont publié. Cela pourrait potentiellement mettre diverses populations – notamment d'Asie de l'Est, d'Asie du Sud, d'Amérique latine et du Moyen-Orient – dans un inconvénient.

Les chercheurs de Sony ont proposé une nouvelle façon de représenter la couleur de la peau pour capturer qui ignorait auparavant la diversité. Leur système décrit la couleur de la peau dans une image en utilisant deux coordonnées, au lieu d'un seul nombre. Il spécifie à la fois un endroit le long d'une échelle de lumière à l'obscurité et sur un continuum de jaune de rougeur, ou ce que l'industrie des cosmétiques appelle parfois des nuances chaleureuses à des nuances fraîches.

La nouvelle méthode fonctionne en isolant tous les pixels dans une image qui montrent la peau, en convertissant les valeurs de couleur RVB de chaque pixel en codes de cielab et en calculant une teinte et un ton moyens à travers des grappes de pixels cutanés. Un exemple de l'étude montre des tirs apparentes de l'ancienne star du football américain Terrell Owens et de la défunte actrice Eva Gabor partageant un teint mais séparée par Hue, avec l'image d'Owens plus rouge et celle de Gabor plus jaune.

Lorsque l'équipe Sony a appliqué son approche des données et des systèmes d'IA disponibles en ligne, ils ont trouvé des problèmes importants. Celebamask-hqUn ensemble de données populaires de visages de célébrités utilisés pour la formation de reconnaissance faciale et d'autres programmes de vision informatique comptait 82% de ses images en train de s'inscrire envers les teintes de la peau rouge, et un autre ensemble de données Ffhqqui a été développé par Nvidia, a penché 66% vers le côté rouge, ont révélé des chercheurs. Deux modèles d'IA génératifs formés sur FFHQ ont reproduit le biais: environ quatre images sur cinq que chacune d'elles a générées ont été biaisées vers des teintes rouges.

Cela ne s'est pas terminé là-bas. Programmes d'IA Surface arc, Facenetet Dlib Selon l'étude Sony, a mieux effectué des efforts sur la peau plus rouge lorsqu'il a été invité à identifier si deux portraits correspondent à la même personne. Davis King, le développeur qui a créé DLIB, dit qu'il n'est pas surpris par le biais parce que le modèle est formé principalement sur les photos de célébrités américaines.