‘Les images modifiées pour tromper la vision artificielle peuvent aussi influencer les humains’

Recherchez Gamaleldin Elsayed et Michael Mozer. De nouvelles recherches montrent que même de subtiles modifications d’images numériques, conçues pour tromper les systèmes de vision par ordinateur, peuvent également affecter la perception humaine. Les ordinateurs et les humains voient le monde de différentes manières. Nos systèmes biologiques et ceux artificiels des machines ne prêtent pas toujours attention aux mêmes signaux visuels. Les réseaux neuronaux entraînés à classer des images peuvent être complètement trompés par de subtiles perturbations d’une image qu’un humain ne remarquerait même pas. Le fait que les systèmes d’IA puissent être trompés par de telles images adverses peut indiquer une différence fondamentale entre la perception humaine et celle des machines, mais cela nous a poussé à explorer si les humains, eux aussi, pourraient – dans des conditions de test contrôlées – révéler une sensibilité aux mêmes perturbations. Dans une série d’expériences publiées dans Nature Communications, nous avons trouvé des preuves que les jugements humains sont effectivement influencés de manière systématique par des perturbations adverses.