‘Les images modifiées pour tromper la vision artificielle peuvent aussi influencer les êtres humains.’

Recherchez Gamaleldin Elsayed et Michael Mozer. De nouvelles recherches montrent que même de légères modifications aux images numériques, conçues pour tromper les systèmes de vision par ordinateur, peuvent également affecter la perception humaine. Les ordinateurs et les humains voient le monde de différentes manières. Nos systèmes biologiques et ceux artificiels dans les machines ne font peut-être pas toujours attention aux mêmes signaux visuels. Les réseaux neuronaux entraînés à classifier des images peuvent être totalement induits en erreur par de subtiles perturbations dans une image que l’œil humain ne remarquerait même pas. Le fait que les systèmes d’intelligence artificielle puissent être trompés par de telles images adverses peut indiquer une différence fondamentale entre la perception humaine et celle des machines, mais cela nous a poussés à explorer si les humains, eux aussi, pourraient – dans des conditions de test contrôlées – révéler une sensibilité aux mêmes perturbations. Dans une série d’expériences publiées dans Nature Communications, nous avons trouvé des preuves que les jugements humains sont effectivement systématiquement influencés par des perturbations adverses.