Il est désormais interdit à Rite Aid d’utiliser la technologie de reconnaissance faciale de l’IA. Voici pourquoi.
Rite Aid, la chaîne pharmaceutique qui a déposé une demande de mise en faillite (chapitre 11) il y a deux mois, a un nouveau problème à résoudre : la FTC.
Mardi, la Commission fédérale du commerce annoncé qu’il interdisait à Rite Aid d’utiliser la technologie de reconnaissance faciale à des fins de surveillance au cours des 5 prochaines années.
Selon un plainte déposée par la FTC, de 2012 à 2020, Rite Aid « a déployé une technologie de reconnaissance faciale basée sur l’intelligence artificielle afin d’identifier les clients susceptibles d’avoir été impliqués dans un vol à l’étalage ou d’autres comportements problématiques ».
Cependant, la FTC a déclaré que Rite Aid « n’a pas pris de mesures raisonnables pour éviter de nuire aux consommateurs ».
Rite Aid a faussement qualifié des acheteurs innocents de voleurs
Les acheteurs de Rite Aid qui n’avaient rien fait de mal ont été surveillés, harcelés et accusés de vol à l’étalage par des employés lorsque la technologie de reconnaissance faciale du magasin a faussement signalé des consommateurs innocents. Les plus touchés étaient les femmes et les personnes de couleur, principalement celles appartenant aux communautés noires et asiatiques.
La FTC a déclaré que Rite Aid n’informait pas les visiteurs du magasin de son utilisation de la technologie de reconnaissance faciale ni de la collecte de leurs informations biométriques simplement lors de la visite d’un site Rite Aid. Les employés ont été « découragés » de partager également sa politique de surveillance avec les consommateurs.
Selon la FTC, les employés ont reçu des alertes lorsque la technologie de reconnaissance faciale a signalé un consommateur comme un ancien fauteur de troubles. Après avoir été alertés, ces employés “ont suivi les consommateurs dans ses magasins, les ont fouillés, leur ont ordonné de partir, ont appelé la police pour confronter ou expulser les consommateurs et les ont publiquement accusés, parfois devant des amis ou des membres de leur famille, de vol à l’étalage ou d’autres actes répréhensibles”.
Des dizaines de milliers d’images de consommateurs de Rite Aid ont été collectées au fil des ans, selon la FTC. Les images provenaient des caméras de sécurité, des caméras des téléphones des employés et de la couverture médiatique de la presse.
Des milliers de correspondances faussement positives ont été réalisées avec ce système, a indiqué la FTC. L’agence a fourni des exemples de clients signalés sur la base de correspondances effectuées dans des emplacements précédents à des milliers de kilomètres. Parfois, le système signalait un individu dans « des dizaines de magasins différents partout aux États-Unis ».
En plus de se voir interdire d’utiliser la technologie de reconnaissance faciale au cours des 5 prochaines années, la FTC exige également que Rite Aid supprime toutes les vidéos et photos qu’elle a stockées. Les données biométriques doivent également être supprimées. Si Rite Aid déploie la reconnaissance faciale à des fins de sécurité après la levée de l’interdiction, l’entreprise doit en informer les clients, mettre en œuvre un programme de sécurité des données et se soumettre à des évaluations et des examens indépendants.
