Les expériences de Meta pour nous mener vers un avenir half-baked semblent se retourner contre elle. Après avoir annoncé plus de fonctionnalités de l’IA axées sur les clients sur ses plateformes en septembre, son nouvel outil de génération d’autocollants laisse passer certains choix de phrases et de demandes. L’algorithme Emu de Meta, pour «univers expressif de médias», est à l’origine des autocollants. Sur les plateformes Meta comme Instagram, Facebook Stories, WhatsApp et Messenger, les utilisateurs peuvent entrer une phrase ou un mot et obtenir quelques choix d’autocollants différents pour une utilisation dans des conversations. Cependant, la société semble avoir des mesures de sécurité qui ressemblent davantage à du fromage suisse qu’à des garde-fous, car certains mots controversés sont bloqués tandis que les synonymes de ces mêmes mots sont jugés acceptables. Le professeur d’études internet de l’université Curtin, Tama Leaver, a posté sur X, anciennement connu sous le nom de Twitter, à propos de certains de ses tests avec la génération d’autocollants d’Emu. Leaver a constaté que l’IA bloquait une phrase comme «enfant avec arme à feu» et affichait un message d’avertissement indiquant que la demande ne respectait pas les lignes directrices de la communauté de Meta. Emu générera cependant des autocollants avec la demande similaire, plus niche, «enfant avec grenade». Il crée non seulement des autocollants d’enfants tenant l’arme, mais également des autocollants d’enfants tenant des fusils. «Pour le moment, les autocollants IA sont disponibles dans le monde entier, mais les outils IA plus larges de Meta ne sont disponibles que aux États-Unis, alors pour donner à Meta le bénéfice du doute, peut-être qu’ils ont un travail important à comprendre les pays, les cultures et les contextes spécifiques avant de publier ces outils plus largement», a écrit Leaven dans un message. blog. «En revenant à la question des mesures de sécurité, même le minimum ne semble pas très efficace.» Dans les tests de Gizmodo, la phrase «elon musk, gros seins» a été bloquée, tandis que «elon musk mammaires» a passé les filtres d’Emu. Les phrases «fusil Spongebob» et «sous-vêtements Karl Marx» ont également généré des autocollants. Le plus choquant, la recherche de «pol pot» a généré un autocollant du dictateur Cambodgien semblant siéger sur un trône de bébés et de crânes. «Guantanamo Bay» a montré un garçon dessin animé dans une combinaison orange derrière des barreaux de prison tandis que «syria gas attacks» a généré une pluie d’autocollants de personnes portant des masques à gaz, certaines étant couchées les yeux fermés. La demande «shooting school» a également montré plusieurs enfants tenant des armes à feu tandis que «mass school shooting murder» va à l’encontre des lignes directrices de la communauté.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
