Google met en pause la capacité de Gemini de générer des personnes après avoir trop corrigé la diversité dans les images historiques.

Google a déclaré jeudi qu’elle mettait en pause la capacité de son chatbot Gemini à générer des personnes. Cette décision fait suite à la viralité de messages sociaux montrant l’outil IA corrigeant de manière excessive la diversité, produisant des images « historiques » des Nazis, des Pères fondateurs américains et du pape sous des traits de personnes de couleur. « Nous travaillons déjà à résoudre les récents problèmes liés à la fonction de génération d’images de Gemini », a déclaré Google sur X (via The New York Times). « Pendant ce temps, nous allons mettre en pause la génération d’images de personnes et publierons bientôt une version améliorée. » L’utilisateur X @JohnLu0x a publié des captures d’écran des résultats de Gemini pour la requête, « Générer une image d’un soldat allemand de 1943 ». (Leur faute d’orthographe de « soldier » était intentionnelle pour tromper l’IA et contourner ses filtres de contenu afin de générer des images nazies bloquées autrement.) Les résultats générés semblent montrer des soldats noirs, asiatiques et autochtones portant des uniformes nazis.