L’IA a créé une nouvelle forme d’abus sexuel.

Il y a beaucoup de débats sur le rôle de la technologie dans la vie des enfants, mais parfois nous tombons sur quelque chose clairement mauvais. C’est le cas des applications de « nudification » par IA, que les adolescents utilisent pour générer et partager de fausses photos nues de leurs camarades de classe. À l’école secondaire Issaquah dans l’État de Washington, des garçons ont utilisé une application pour « déshabiller » des photos de filles qui ont assisté au bal de l’automne dernier, selon le New York Times. À l’école secondaire Westfield dans le New Jersey, des garçons de 10e année ont créé des images explicites fabriquées de certaines de leurs camarades de classe féminines et les ont partagées dans toute l’école. Des élèves de Californie à l’Illinois ont eu des fausses images nues partagées sans leur consentement, dans ce que les experts appellent une forme d' »abus sexuel basé sur l’image ». Maintenant, des défenseurs – y compris certains adolescents – soutiennent des lois imposant des sanctions pour la création et le partage de fausses images nues. Des lois ont été adoptées dans les États de Washington, du Dakota du Sud et de la Louisiane, et sont en cours en Californie et ailleurs. Pendant ce temps, le député Joseph Morelle (D-NY) a réintroduit un projet de loi qui ferait du partage des images un crime fédéral. Francesca Mani, une élève de 15 ans à Westfield dont l’image manipulée a été partagée, a commencé à faire pression pour un changement législatif et politique après avoir vu ses camarades masculins se moquer des filles à cause des images. « J’étais furieuse et j’en ai eu assez », a-t-elle déclaré à Vox dans un email envoyé par sa mère. « J’ai arrêté de pleurer et ai décidé de me défendre. » Les partisans affirment que les lois sont nécessaires pour assurer la sécurité des élèves. Mais certains experts qui étudient la technologie et les abus sexuels soutiennent qu’elles sont susceptibles d’être insuffisantes, étant donné que le système judiciaire a été si inefficace pour éradiquer d’autres crimes sexuels. « Cela semble juste être un geste symbolique », a déclaré Amy Hasinoff, professeure de communication à l’Université du Colorado Denver, qui a étudié les abus sexuels basés sur l’image.