Plate-forme

Trois jours après que Amazon a annoncé son chatbot IA Q, certains employés sonnent l’alarme sur les problèmes d’exactitude et de confidentialité. Q «souffre d’hallucinations sévères et fuit des données confidentielles», notamment l’emplacement des centres de données AWS, les programmes de réduction internes et les fonctionnalités non encore publiées, selon des documents confidentiels obtenus par Platformer. Un employé a classé l’incident comme «sev 2», ce qui signifie un incident suffisamment grave pour justifier l’appel aux ingénieurs la nuit et les faire travailler le week-end pour le résoudre. Les premiers problèmes de Q interviennent alors que Amazon s’efforce de lutter contre la perception que Microsoft, Google et d’autres entreprises de technologie ont dépassé la sienne dans la course à la construction d’outils et d’infrastructures utilisant l’intelligence générative. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la startup d’IA Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services pour développeurs, elle a annoncé Q – probablement la plus grande annonce dans la série de nouvelles initiatives en IA que la société a présentées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent leurs commentaires via les canaux et les systèmes de ticketing internes, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et nous continuerons à ajuster Q lors de sa transition d’un produit en aperçu à un produit généralement disponible.»