Le générateur d’images AI de Meta a du mal à créer des images de couples de différentes races.

La Verge rapporte que Meta AI n’est pas en mesure de générer de manière constante des images exactes pour des questions apparemment simples telles que « homme asiatique et ami caucasien » ou « homme asiatique et femme blanche ». Au lieu de cela, le générateur d’images de l’entreprise semble être biaisé en faveur de la création d’images de personnes de la même race, même lorsqu’il est explicitement sollicité autrement. Engadget a confirmé ces résultats lors de nos propres tests du générateur d’images en ligne de Meta. Les requêtes telles que « un homme asiatique avec une amie blanche » ou « un homme asiatique avec une femme blanche » ont généré des images de couples asiatiques. Lorsqu’on demandait « un groupe de personnes diversifié », Meta AI générait une grille de neuf visages blancs et une personne de couleur. Il y a eu quelques occasions où il a créé un seul résultat refletant la requête, mais dans la plupart des cas, il n’a pas correctement représenté la demande. Comme le souligne La Verge, il y a d’autres signes « subtils » de biais dans Meta AI, tels qu’une tendance à faire paraître les hommes asiatiques plus âgés alors que les femmes asiatiques paraissaient plus jeunes. Le générateur d’images ajoutait parfois aussi des « vêtements spécifiques à une culture » même lorsque cela ne faisait pas partie de la demande. Il n’est pas clair pourquoi Meta AI éprouve des difficultés avec ce type de requêtes, bien que cela ne soit pas la première plateforme d’IA générative à être mise en cause pour sa représentation de la race. Le générateur d’images Gemini de Google a suspendu sa capacité à créer des images de personnes après avoir corrigé excessivement la diversité avec des résultats bizarres en réponse à des requêtes sur des personnalités historiques. Google a expliqué par la suite que ses garde-fous internes n’avaient pas pris en compte les situations où des résultats diversifiés étaient inappropriés. Meta n’a pas immédiatement répondu à une demande de commentaire. L’entreprise a précédemment décrit Meta AI comme étant en « bêta » et donc susceptible de commettre des erreurs. Meta AI a également eu des difficultés à répondre de manière précise à des questions simples sur l’actualité et les personnalités publiques.