Directeur athlétique de l’école arrêté pour avoir encadré le directeur en utilisant la synthèse vocale AI.

Le jeudi, la police du comté de Baltimore a arrêté Dazhon Darien, ancien directeur athlétique de Pikesville High School, et l’a inculpé pour avoir utilisé l’intelligence artificielle pour se faire passer pour le directeur Eric Eiswert, selon un rapport du Baltimore Banner. La police affirme que Darien a utilisé un logiciel de synthèse vocale d’intelligence artificielle pour imiter la voix d’Eiswert, laissant croire au public que le principal avait tenu des propos racistes et antisémites. L’extrait audio, diffusé sur un compte Instagram populaire, contenait des remarques offensantes sur les « enfants noirs ingrats » et leurs performances académiques, ainsi qu’une menace de « rejoindre l’autre camp » si le locuteur recevait une nouvelle plainte « d’un autre Juif dans cette communauté ». L’enregistrement mentionnait également des noms de membres du personnel, dont le surnom de Darien « DJ », suggérant qu’ils n’auraient pas dû être embauchés ou qu’ils devraient être renvoyés « d’une manière ou d’une autre ». Ces commentaires ont provoqué une importante agitation parmi les élèves, le corps enseignant et la communauté en général, beaucoup d’entre eux croyant initialement que le principal avait réellement fait ces remarques. Une enseignante de Pikesville High School nommée Shaena Ravenell aurait joué un rôle important dans la diffusion de l’audio. Bien qu’elle n’ait pas été inculpée, la police a indiqué qu’elle avait transféré l’e-mail controversé à un élève connu pour sa capacité à diffuser rapidement des informations sur les réseaux sociaux. Cet élève a ensuite augmenté la portée de l’audio, en le partageant avec les médias et la NAACP. La police du comté de Baltimore affirme que Darien avait accédé aux réseaux scolaires pour rechercher et utiliser des outils d’intelligence artificielle capables d’imiter la voix. La police a également relié Darien à une adresse e-mail utilisée pour distribuer les enregistrements falsifiés. La technologie de clonage vocal, que nous avons abordée dans le passé, peut générer une parole réaliste après avoir été formée sur des millions de voix humaines, puis ajustée pour correspondre à une voix spécifique dans un échantillon fourni. En mars, les journalistes du Baltimore Banner ont parlé avec Siwei Lyu, directeur d’un laboratoire de médecine légale des médias à l’Université de Buffalo. Lyu a déclaré au journal qu’il pensait que l’extrait falsifié d’Eiswert parlant avait été créé à l’aide d’un service de synthèse vocale tel qu’ElevenLabs. ElevenLabs permet aux utilisateurs de télécharger des échantillons vocaux de personnes pour le clonage à l’aide de la synthèse vocale, bien que ses conditions d’utilisation interdisent de cloner une voix sans l’autorisation de la personne.