Rite Aid a accepté une interdiction de cinq ans de l’utilisation de la reconnaissance faciale pour la surveillance en vertu d’un règlement avec la Federal Trade Commission américaine (FTC). La décision fait suite à des accusations de la FTC selon lesquelles la technologie a été mal utilisée, portant préjudice aux consommateurs. De 2012 à 2020, Rite Aid a mis en œuvre la reconnaissance faciale basée sur l’IA pour détecter les voleurs. Cependant, la FTC a déclaré que le système a identifié de manière erronée des clients spécifiques comme des voleurs précédents et a «affecté de manière disproportionnée les personnes de couleur». Rite Aid a utilisé une technologie de balayage facial alimentée par l’IA dans des centaines de ses magasins pour identifier les individus sur des images de surveillance, dans le but de réduire les vols et de traiter d’autres problèmes liés aux clients. La FTC a déclaré que, en raison du manque de mesures de sécurité adéquates et de l’historique d’inexactitudes et de biais racistes de la technologie, le personnel de Rite Aid a souvent accusé à tort les clients de vol. «L’utilisation imprudente de systèmes de surveillance par caméras faciales par Rite Aid a laissé ses clients faire face à l’humiliation et à d’autres préjudices, et les violations de son ordre ont mis les informations sensibles des consommateurs en danger», a déclaré Samuel Levine, directeur du Bureau de la protection des consommateurs de la FTC, dans un communiqué de presse. «L’ordonnance novatrice d’aujourd’hui montre clairement que la Commission sera vigilante dans la protection du public contre une surveillance biométrique injuste et des pratiques de sécurité des données injustes.» Selon la FTC, le système de Rite Aid utilisait la reconnaissance faciale pour balayer les clients lorsqu’ils entraient dans le magasin, en comparant leurs visages avec une vaste base de données d’individus soupçonnés ou confirmés comme des voleurs. Si le système trouvait une correspondance, il en informait le personnel afin qu’il surveille attentivement ce client. La base de données d’images était remplie d’images de mauvaise qualité provenant de vidéos de surveillance granuleuses et de téléphones cellulaires, ce qui entraînait des correspondances peu fiables. Les problèmes liés aux images ont entraîné le suivi par le personnel ou l’appel à la police sans témoin d’aucun crime.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
