Plateforme

Trois jours après l’annonce d’Amazon de son chatbot QA, certains employés sonnent l’alarme sur les problèmes d’exactitude et de confidentialité. QA «souffre d’hallucinations sévères et fuit des données confidentielles», notamment l’emplacement des centres de données AWS, les programmes de réduction internes et les fonctionnalités non publiées, selon des documents confidentiels obtenus par Platformer. Un employé a marqué l’incident comme «sev 2», ce qui signifie que l’incident est suffisamment grave pour justifier le marquage des ingénieurs la nuit et les obliger à travailler le week-end pour le corriger. Les premiers problèmes de Q interviennent au moment où Amazon s’efforce de lutter contre la perception que Microsoft, Google et d’autres entreprises de technologie ont dépassé Amazon dans la course à la construction d’outils et d’infrastructures tirant parti de l’intelligence artificielle générative. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la jeune pousse Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services pour développeurs, elle a annoncé Q – probablement la sortie la plus médiatisée dans la série de nouvelles initiatives d’IA que la société a présentées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent des commentaires via des canaux et des systèmes de ticketing internes, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et nous continuerons à ajuster Q lors de sa transition de l’état de prévisualisation à celui de disponibilité générale. »