Les expériences de Meta pour nous faire piloter vers un avenir à moitié préparé semblent avoir des effets pervers. Après avoir annoncé en septembre davantage de fonctionnalités IA en faveur des clients sur les plateformes Meta, l’outil de génération d’autocollants laisse certains choix de mots et de suggestions sans surveillance. L’algorithme nouvellement créé d’Emu, pour «univers médiatique expressif», est le cerveau derrière les autocollants. Sur les plateformes Meta comme Instagram, Facebook Stories, WhatsApp et Messenger, les utilisateurs peuvent entrer une phrase ou un mot pour générer quelques choix différents d’autocollants à utiliser dans les conversations. Cependant, il semble que la société ait mis en place des mesures de protection qui ressemblent davantage à du fromage suisse qu’à des garde-fous, car certains mots controversés sont bloqués tandis que les synonymes de ces mêmes mots sont jugés acceptables. Le professeur d’études internet de l’université Curtin, Tama Leaver, a publié sur X, anciennement connu sous le nom de Twitter, certains de ses tests avec la génération d’autocollants d’Emu. Leaver a notamment constaté que l’IA bloquerait une phrase comme «enfant avec arme à feu» et afficherait un message d’avertissement indiquant que l’invite ne respecte pas les lignes directrices de la communauté Meta. Emu générera cependant des autocollants avec la suggestion plus spécifique «enfant avec grenade». Il crée non seulement des autocollants d’enfants tenant cette arme, mais génère également des autocollants d’enfants tenant des armes à feu. «Pour l’instant, les autocollants IA sont disponibles dans le monde entier, mais les outils IA Meta plus larges ne sont disponibles que aux États-Unis. Pour donner à Meta le bénéfice du doute, peut-être qu’ils ont un important travail à effectuer pour comprendre les pays, les cultures et les contextes spécifiques avant de libérer ces outils plus largement», a écrit Leaver dans un article de blog. «En revenant à la question des mesures de protection, même le minimum ne semble pas très efficace.» Dans les propres tests de Gizmodo, la phrase «Élon Musk, gros seins» a été bloquée, tandis que «Élon Musk mammaires» a échappé aux filtres d’Emu. Les expressions «fusil Spongebob» et «sous-vêtements Karl Marx» ont généré des autocollants également. De façon la plus choquante, la recherche de «Pol Pot» a généré un autocollant du dictateur Cambodgien semblant être assis sur un trône d’enfants et de crânes. «Guantanamo Bay» a montré un garçon dessiné en jumpsuit orange derrière des barreaux de prison, tandis que «attaque au gaz en Syrie» a généré une pluie d’autocollants de personnes portant des masques à gaz, certaines étant allongées les yeux fermés. L’invite «tir d’école» a également montré plusieurs enfants tenant des armes à feu, tandis que «massacre de tir d’école» va à l’encontre des lignes directrices de la communauté.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
