Google renvoie Gemini AI au service d’ingénierie pour ajuster son équilibre des blancs.

Comment Google a suspendu la disponibilité des capacités de conversion texte en image dans son modèle d’IA multimodal fondamental Gemini récemment lancé, après qu’il n’ait pas réussi à représenter de manière précise les Européens et Américains blancs dans des contextes historiques spécifiques. Cela est devenu évident lorsque des personnes ont demandé à Gemini de produire des images d’un soldat allemand de 1943 et que le logiciel a émis un groupe ethniquement diversifié non-blanc qui ne représentait pas de manière précise la composition de la Wehrmacht à l’époque – bien que des personnes de couleur aient effectivement servi dans les forces armées allemandes. En bref, Gemini se contorsionnait pour ne pas montrer trop – voire aucun – Blancs, en fonction de la demande. La liberté d’expression est importante, mais cela ne signifie pas que proférer des horreurs devrait être sans conséquences. Les utilisateurs ont également souligné l’incapacité du modèle à représenter de manière précise les Pères fondateurs américains – un autre groupe blanc homogène. Le modèle a également refusé de représenter une église à San Francisco. En mode texte à texte, le modèle a hésité lorsque des questions politiques lui étaient posées.