Les États-Unis infligent une amende de 6 millions de dollars à un consultant politique pour des appels automatisés deepfake.

La Commission fédérale des communications (FCC) a officiellement émis sa pleine amende recommandée contre le consultant politique Steve Kramer pour une série d’appels téléphoniques automatisés illégaux utilisant la technologie deepfake AI et le spoofing de l’identification de l’appelant lors des primaires du New Hampshire. Kramer doit payer une amende de 6 millions de dollars dans les 30 prochains jours, sinon le ministère de la Justice se chargera de recouvrer la somme, selon un communiqué de la FCC. Kramer a violé la loi Truth in Caller ID Act adoptée en 2009 qui interdit à quiconque de « transmettre sciemment des informations d’identification d’appelant trompeuses ou inexactes dans le but de frauder, de causer du tort ou d’obtenir illégalement quelque chose de valeur », selon les documents législatifs. La loi a précédé l’utilisation généralisée de l’IA, mais la FCC a voté à l’unanimité pour l’appliquer à de tels deepfakes en février dernier. Les faux appels automatisés ont délivré des enregistrements audio préenregistrés de la voix du président Biden en utilisant la technologie deepfake AI aux résidents du New Hampshire à l’approche de l’élection primaire présidentielle de 2024. Le faux président Biden a dit aux électeurs de ne pas voter aux primaires à venir en déclarant « Votre vote est important en novembre, pas ce mardi », selon un rapport antérieur de CBS New York. Les appels téléphoniques falsifiés semblaient provenir de l’ancienne présidente du Parti démocrate du New Hampshire, selon le New York Times. Kramer a engagé un magicien de la Nouvelle-Orléans (oui, vraiment, un véritable magicien) Paul Carpenter pour faire les enregistrements falsifiés. Carpenter a montré à NBC News comment il a créé les enregistrements deepfake audio du président Biden en utilisant un générateur de voix IA appelé ElevenLabs. Il affirme que la création des enregistrements n’a pris que environ 20 minutes. Carpenter dit que Kramer l’a payé via Venmo et il pensait que le travail qu’il effectuait était autorisé par la campagne du président Biden. Eleven Labs a depuis fermé le compte de Carpenter. Kramer affirme qu’il a envoyé les appels automatisés pour sensibiliser sur les dangers et les abus de la technologie. Son expérience apparente ne lui a coûté que 500 dollars, mais, selon le consultant politique, a entraîné un retour massif. « Pour moi, faire ça et obtenir une exposition de 5 millions de dollars, pas pour moi », a déclaré Kramer à CBS New York. « Je suis resté anonyme pour que les réglementations puissent simplement se dérouler ou commencer à se dérouler. Je n’ai pas besoin d’être célèbre. Ce n’est pas mon intention. Mon intention était de faire une différence. »