Les électeurs indiens sont bombardés de millions de deepfakes. Les candidats politiques approuvent.

Un après-midi étouffant d’avril à Ajmer, dans l’État indien du Rajasthan, le politicien local Shakti Singh Rathore s’assit devant un écran vert pour tourner une courte vidéo. Il semblait nerveux. C’était la première fois qu’il était cloné. Portant une chemise blanche soignée et une écharpe safran cérémonielle arborant une fleur de lotus – le logo du BJP, le parti au pouvoir du pays – Rathore joignit ses paumes et salua son public en hindi. « Namashkar », a-t-il commencé. « À tous mes frères – » Avant qu’il ne puisse poursuivre, le réalisateur entra dans le champ. Divyendra Singh Jadoun, un jeune de 31 ans au crâne chauve et à la barbe noire épaisse, dit à Rathore qu’il bougeait trop devant la caméra. Jadoun essayait de capturer suffisamment de données audio et vidéo pour créer un deepfake IA de Rathore qui convaincrait 300 000 électeurs potentiels autour d’Ajmer qu’ils avaient eu une conversation personnalisée avec lui – mais un excès de mouvement briserait l’algorithme. Jadoun demanda à son sujet de regarder droit dans la caméra et de ne bouger que les lèvres. « Recommence », dit-il. Chez Polymath Synthetic Media Solutions, le deepfaker autodidacte Divyendra Singh Jadoun collecte des données vidéo et audio de politiciens locaux afin de traduire leurs discours dans différentes langues pour toucher les électeurs. Ici, le discours de Shakti Singh Rathore est généré en hindi, tamoul, sanskrit et marathi. Vidéo : Nilesh Christopher/Divyendra Singh Jadoun/WIRED En ce moment, la plus grande démocratie du monde se rend aux urnes. Près d’un milliard d’Indiens sont éligibles pour voter dans le cadre des élections générales du pays, et les deepfakes pourraient jouer un rôle décisif, et potentiellement divisif. Les partis politiques indiens ont exploité l’IA pour déformer la réalité à travers des faux audio bon marché, des images de propagande et des parodies d’IA. Mais alors que le discours mondial sur les deepfakes se focalise souvent sur la désinformation et d’autres dommages sociétaux, de nombreux politiciens indiens utilisent la technologie à des fins différentes : toucher les électeurs.