Le vendredi, un comité judiciaire fédéral s’est réuni à Washington, DC, pour discuter des défis liés à la présentation de preuves générées par l’IA lors des procès judiciaires, selon un rapport de Reuters. Le Comité consultatif sur les règles de preuve de la Conférence judiciaire des États-Unis, une commission de huit membres chargée de rédiger des amendements liés aux preuves dans les Règles fédérales de preuve, a entendu des informaticiens et des universitaires parler des risques potentiels liés à l’utilisation de l’IA pour manipuler des images et des vidéos ou créer des deepfakes pouvant perturber un procès. La réunion s’est tenue dans le cadre des efforts plus larges déployés par les tribunaux fédéraux et d’État à travers le pays pour faire face à la montée des modèles d’IA générative (comme ceux qui alimentent ChatGPT d’OpenAI ou le Stable Diffusion de Stability AI), qui peuvent être formés sur de grands ensembles de données dans le but de produire des textes, des images, des fichiers audio ou des vidéos réalistes. Dans l’ordre du jour de 358 pages publié pour la réunion, le comité propose la définition d’un deepfake et les problèmes que les médias générés par l’IA peuvent poser dans les procès juridiques : Un deepfake est une présentation audiovisuelle inauthentique préparée par des programmes informatiques utilisant l’intelligence artificielle. Bien entendu, les photos et vidéos ont toujours été sujettes à la contrefaçon, mais les avancées en matière d’IA rendent les deepfakes beaucoup plus difficiles à détecter. Les logiciels permettant de créer des deepfakes sont déjà largement disponibles en ligne et assez faciles à utiliser pour n’importe qui. À mesure que la convivialité des logiciels et l’apparence authentique des vidéos s’améliorent, il deviendra plus difficile pour les systèmes informatiques, et encore moins pour les jurés profanes, de distinguer le vrai du faux. Lors de l’audience de trois heures qui s’est tenue vendredi, le comité a débattu de la question de savoir si les règles existantes, qui datent d’avant l’avènement de l’IA générative, sont suffisantes pour garantir la fiabilité et l’authenticité des preuves présentées en cour.
![](https://netz-blog.fr/wp-content/uploads/2024/09/article_image-279.webp)
« Survivre cet été sur Internet »
Un après-midi d’août, alors qu’un suprémaciste blanc conduisait une voiture à travers une foule de manifestants pacifiques à Charlottesville, en