Rite Aid a accepté une interdiction de cinq ans de l’utilisation de la technologie de reconnaissance faciale pour la surveillance dans le cadre d’un règlement avec la Federal Trade Commission américaine (FTC). La décision intervient suite aux accusations de la FTC selon lesquelles la technologie a été utilisée de manière abusive, portant préjudice aux consommateurs. De 2012 à 2020, Rite Aid a mis en œuvre la reconnaissance faciale basée sur l’IA pour détecter les voleurs dans les magasins. Cependant, la FTC a déclaré que le système avait identifié de manière erronée des clients spécifiques comme étant des voleurs précédents et qu’il avait «touché de manière disproportionnée les personnes de couleur». Rite Aid a utilisé une technologie de lecture de visage alimentée par l’IA dans des centaines de ses magasins pour identifier les individus sur les images de surveillance, dans le but de réduire les vols et de traiter d’autres problèmes liés aux clients. La FTC a déclaré que, en raison du manque de mesures de sécurité adéquates et de l’historique d’erreurs et de biais racistes de la technologie, le personnel de Rite Aid a souvent accusé à tort les clients de vol. «L’utilisation imprudente de systèmes de surveillance faciale par Rite Aid a laissé ses clients faire face à l’humiliation et à d’autres préjudices, et ses violations de la commande ont mis les informations sensibles des consommateurs en danger», a déclaré Samuel Levine, directeur du Bureau de la protection des consommateurs de la FTC, dans un communiqué de presse. «La commande novatrice d’aujourd’hui montre clairement que la Commission sera vigilante dans la protection du public contre la surveillance biométrique et les pratiques de sécurité des données injustes. Selon la FTC, le système de Rite Aid a utilisé la reconnaissance faciale pour balayer les clients lorsqu’ils entraient dans le magasin, en comparant leurs visages à une vaste base de données d’individus soupçonnés ou confirmés comme étant des voleurs. Si le système trouvait une correspondance, il alertait le personnel de surveiller de près ce client. La base de données de photos était remplie d’images de faible qualité provenant de vidéos de surveillance granuleuses et de téléphones cellulaires, ce qui entraînait des correspondances peu fiables. Les problèmes liés aux images ont entraîné le suivi de clients ou l’appel à la police sans témoin d’aucun crime.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
