Microsoft lance un créateur de deepfakes au cours de l’événement Ignite 2023

L’un des produits les plus inattendus lancés lors de l’événement Microsoft Ignite 2023 est un outil capable de créer et d’animer un avatar photoréaliste d’une personne en disant des choses que cette personne n’a pas nécessairement dites. Appelé Azure AI Speech text-to-speech avatar, cette nouvelle fonctionnalité est disponible en version préliminaire dès aujourd’hui. Elle permet aux utilisateurs de générer des vidéos d’un avatar parlant en téléchargeant des images d’une personne qu’ils souhaitent faire ressembler à l’avatar et en écrivant un script. L’outil de Microsoft forme un modèle pour animer l’avatar, tandis qu’un autre modèle de synthèse vocale – préconstruit ou formé à partir de la voix de la personne – «lit» le script à haute voix. «Avec l’avatar text-to-speech, les utilisateurs peuvent créer plus efficacement des vidéos […] pour créer des vidéos de formation, des présentations de produits, des témoignages de clients [et ainsi de suite] simplement avec une entrée de texte», écrit Microsoft dans un message sur le blog. «Vous pouvez utiliser l’avatar pour créer des agents conversationnels, des assistants virtuels, des chatbots et plus encore.» Les avatars peuvent parler dans plusieurs langues. Et, pour les chatbots, ils peuvent utiliser des modèles d’IA tels que OpenAI GPT-3.5 pour répondre à des questions qui sortent du script. Maintenant, il y a un nombre incalculable de façons dont un tel outil pourrait être abusé – ce que Microsoft a bien compris. (Une technologie d’avatar générant des avatars similaire de la start-up Synthesia a été mal utilisée pour produire de la propagande au Venezuela et des faux reportages promus par les comptes de médias sociaux pro-Chine.) La plupart des abonnés Azure ne pourront accéder qu’aux avatars préconstruits – et non aux avatars personnalisés – au lancement; les avatars personnalisés sont actuellement une fonctionnalité «à accès limité» disponible uniquement sur inscription et «uniquement pour certains cas d’utilisation», selon Microsoft.