Le générateur d’images IA de Meta a du mal à créer des images de couples de différentes races.

Meta AI est systématiquement incapable de générer des images précises pour des demandes apparemment simples telles que « un homme asiatique et un ami caucasien » ou « un homme asiatique et une épouse blanche », rapporte The Verge. Au lieu de cela, le générateur d’images de l’entreprise semble être orienté vers la création d’images de personnes de la même race, même lorsqu’il est explicitement demandé le contraire. Engadget a confirmé ces résultats dans notre propre test du générateur d’images web de Meta. Des demandes telles que « un homme asiatique avec une amie blanche » ou « un homme asiatique avec une épouse blanche » ont généré des images de couples asiatiques. Lorsqu’on lui a demandé de créer « un groupe diversifié de personnes », Meta AI a généré une grille de neuf visages blancs et une personne de couleur. Il y a eu quelques occasions où il a créé un seul résultat qui reflétait la demande, mais dans la plupart des cas, il n’a pas réussi à dépeindre précisément la demande. Comme le souligne The Verge, il y a d’autres signes plus « subtils » de partialité dans Meta AI, comme une tendance à faire paraître les hommes asiatiques plus âgés et les femmes asiatiques plus jeunes. Le générateur d’images ajoutait parfois également des « vêtements spécifiques à une culture » même lorsque cela ne faisait pas partie de la demande. Il n’est pas clair pourquoi Meta AI a du mal avec ce type de demandes, bien que ce ne soit pas la première plateforme d’IA générative à être critiquée pour sa représentation de la race. Le générateur d’images Gemini de Google a suspendu sa capacité à créer des images de personnes après avoir surcorrigé la diversité avec des résultats étranges en réponse à des demandes sur des personnages historiques. Google a expliqué plus tard que ses sauvegardes internes n’avaient pas tenu compte des situations où des résultats diversifiés étaient inappropriés. Meta n’a pas immédiatement répondu à une demande de commentaire. L’entreprise a précédemment décrit Meta AI comme étant en « béta » et donc sujette à des erreurs. Meta AI a également du mal à répondre de manière précise à des questions simples sur l’actualité et les personnalités publiques.