Alibaba’s ‘Animate Anyone’ est entraîné sur des vidéos volées de célèbres TikTokeurs.

Un groupe de chercheurs de la grande entreprise chinoise de détail et de technologie Alibaba a publié cette semaine un article décrivant un nouveau modèle, qu’ils ont appelé «Animate Anyone». La réaction en ligne à cela, en général, a été «RIP TikTokers», l’implication suggérée étant que les créateurs de contenu de danse TikTok seront bientôt remplacés par des IA. RIP TikTokers 💀 pic.twitter.com/DG5y13Dn5l Le modèle prend une entrée (dans leurs exemples, des vidéos de danse TikTok) et crée une nouvelle version en sortie. Les résultats sont légèrement meilleurs que les précédentes tentatives de modèles similaires. Pour la plupart, dans les exemples publiés, ils prennent une séquence de danse existante et la replicated légèrement moins bien, avec des vêtements ou des styles différents. Mais comme toutes les avancées en IA, cela va s’améliorer. Les gens ont déjà fait remarquer que «Animate Anyone» sera probablement utilisé à des fins abusives, générant des vidéos non consenties de personnes dans des situations fabriquées, ce qui a été l’utilisation principale des deepfakes depuis leur inception il y a six ans. Mais ce n’est pas une prédiction lointaine: ces chercheurs utilisent déjà le travail des gens sans leur consentement, comme une pratique intégrée à l’entraînement et à la construction du modèle. L’article d’Alibaba est la commercialisation du «dataset TikTok», qui a été initialement créé à des fins académiques par des chercheurs de l’Université du Minnesota. 404 Media a effectué un rapide examen du dataset qui montre que le nouvel AI d’Alibaba est entraîné sur un modèle qui a extrait des vidéos de certains des créateurs TikTok les plus célèbres, y compris Charli D’Amelio, Addison Rae, Ashley Nocera, Stina Kayy et des dizaines d’autres. Le dataset TikTok contient également des personnes qui ont des comptes TikTok qui ne comptent pas beaucoup de followers.