‘Les images modifiées pour tromper la vision artificielle peuvent aussi influencer les humains’

Recherchez Gamaleldin Elsayed et Michael Mozer de nouvelles recherches montrent que même de légers changements aux images numériques, conçus pour confondre les systèmes de vision par ordinateur, peuvent aussi affecter la perception humaine. Les ordinateurs et les humains voient le monde de différentes manières. Nos systèmes biologiques et ceux artificiels des machines ne prêtent peut-être pas toujours attention aux mêmes signaux visuels. Les réseaux neuronaux entraînés à classifier des images peuvent être totalement trompés par des perturbations subtiles d’une image que l’homme ne remarquerait même pas. Le fait que les systèmes d’IA puissent être trompés par de telles images adverses peut pointer vers une différence fondamentale entre la perception humaine et celle des machines, mais cela nous a poussés à explorer si les humains, eux aussi, pourraient – dans des conditions de test contrôlées – révéler une sensibilité aux mêmes perturbations. Dans une série d’expériences publiées dans Nature Communications, nous avons trouvé des preuves que les jugements humains sont effectivement systématiquement influencés par des perturbations adverses.