Les pirates informatiques empoisonnent délibérément les systèmes d’IA pour les faire dysfonctionner, et il n’y a aucun moyen de s’en défendre.

Les acteurs de menace exploitent les systèmes d’IA défectueux causés par des « données non fiables », met en garde un nouvel avis du National Institute of Standards and Technology (NIST). Le nouveau rapport du NIST sur l’IA fiable et responsable révèle comment les pirates peuvent intentionnellement « empoisonner » les systèmes d’IA et les faire dysfonctionner, ce qu’ils peuvent ensuite exploiter. De manière inquiétante, le rapport note également que les développeurs n’ont aucune méthode infaillible pour se prémunir contre de telles attaques. Un des auteurs du rapport, le chercheur en informatique du NIST, Apostol Vassilev, a déclaré que les stratégies d’atténuation actuelles utilisées pour combattre ce type d’attaques ne peuvent garantir une protection. « Nous décrivons également les stratégies d’atténuation actuelles rapportées dans la littérature, mais ces défenses disponibles manquent actuellement d’assurances solides qu’elles atténuent pleinement les risques », a-t-il déclaré. « Nous encourageons la communauté à proposer de meilleures défenses. »