Un modèle IA avec un taux d’erreur de 90% pour refuser les soins, selon une plainte

UnitedHealthcare, la plus grande compagnie d’assurance maladie aux États-Unis, aurait utilisé un algorithme d’apprentissage profondément défectueux pour outrepasser les jugements des médecins et refuser à tort des soins de santé critiques aux patients âgés. Cela a entraîné le renvoi de patients de programmes de réadaptation et d’établissements de soins beaucoup trop tôt, les obligeant à épuiser leurs économies de toute une vie pour obtenir les soins dont ils avaient besoin et qui auraient dû être couverts par leur régime d’avantage Medicare financé par le gouvernement. C’est ce que prétend une plainte déposée cette semaine devant la cour fédérale des États-Unis pour le district du Minnesota. La plainte est déposée par les héritiers de deux personnes décédées qui ont été privées de couverture médicale par UnitedHealth. La poursuite vise également à obtenir le statut de recours collectif pour les personnes situées dans des situations similaires, dont il pourrait y avoir des dizaines de milliers à travers le pays. La plainte arrive en même temps qu’une enquête de Stat News qui étaye en grande partie les allégations de la plainte. Les conclusions de l’enquête résultent de documents internes et de communications obtenus par Stat, ainsi que d’entretiens avec des anciens employés de NaviHealth, la filiale de UnitedHealth qui a développé l’algorithme d’apprentissage automatique appelé nH Predict. «À la fin de mon séjour chez NaviHealth, j’ai réalisé: je ne suis pas avocate, je ne suis qu’une gagneuse d’argent pour cette entreprise», a déclaré Amber Lynch, une ergothérapeute et ancienne responsable des cas chez NaviHealth, à Stat. «Tout est question d’argent et de points de données», a-t-elle ajouté. «Cela enlève la dignité au patient, et j’ai détesté cela.» Selon la plainte, UnitedHealth a commencé à utiliser nH Predict au moins en novembre 2019, et il est toujours en service. L’algorithme estime combien de soins post-acutaires un patient atteint d’un avantage Medicare aura besoin après une blessure, une maladie ou un événement aigu, comme une chute ou un accident vasculaire cérébral. Les soins post-acutaires peuvent inclure des choses comme la thérapie et les soins infirmiers qualifiés de la part d’agences de soins à domicile, de foyers de soins infirmiers qualifiés et de centres de réadaptation en hospitalisation.