L’algorithme « Animate Anyone » d’Alibaba est entraîné sur des vidéos volées de célèbres TikTokers.

Un groupe de chercheurs de la société chinoise de détail et de technologie Alibaba a publié cette semaine un article décrivant un nouveau modèle, qu’ils ont appelé «Animate Anyone». La réaction en ligne à cela, en général, a été «RIP TikTokers», ce qui suggère que les créateurs de contenu de danse TikTok seront bientôt remplacés par des IA. RIP TikTokers 💀 pic.twitter.com/DG5y13Dn5l Le modèle prend en entrée (dans leurs exemples, des vidéos de danse TikTok) et crée une nouvelle version en sortie. Les résultats sont légèrement meilleurs que les précédentes tentatives de modèles similaires. Pour la plupart, dans les exemples publiés, ils prennent une séquence de danse existante et la replicated légèrement moins bien, avec des vêtements ou des styles différents. Mais comme tous les progrès de l’IA, cela va s’améliorer. Les gens ont déjà fait remarquer que «Animate Anyone» sera probablement utilisé à des fins abusives, générant des vidéos non consenties de personnes dans des situations fabriquées, ce qui a été l’usage principal des deepfakes depuis leur création il y a six ans. Mais ce n’est pas une prédiction lointaine: ces chercheurs utilisent déjà le travail des gens sans leur consentement, comme une pratique intégrée à l’entraînement et à la construction du modèle. L’article d’Alibaba est la commercialisation de «la base de données TikTok», qui a été créée à des fins académiques par des chercheurs de l’Université du Minnesota. Une rapide analyse de la base de données TikTok par 404 Media montre que le nouvel AI d’Alibaba est entraîné sur un modèle qui a extrait des vidéos de certains des plus célèbres créateurs TikTok, y compris Charli D’Amelio, Addison Rae, Ashley Nocera, Stina Kayy et des dizaines d’autres. La base de données TikTok contient également des personnes qui ont des comptes TikTok qui n’ont pas beaucoup de followers.