Trois jours après l’annonce d’Amazon de son chatbot QA, certains employés sonnent l’alarme sur les questions de précision et d’intimité. Q «vit des hallucinations sévères et fuit les données confidentielles», y compris l’emplacement des centres de données AWS, les programmes de réduction internes et les fonctionnalités inédites, selon des documents confidentiels obtenus par Platformer. Un employé a classé l’incident comme «sev 2», ce qui signifie un incident suffisamment grave pour justifier le traitement d’urgence des ingénieurs et leur travail pendant le week-end pour le résoudre. Les premiers problèmes de Q interviennent alors que Amazon s’efforce de lutter contre la perception que Microsoft, Google et d’autres entreprises de technologie ont surpassé ses initiatives en matière d’IA générative. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la startup d’IA Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services, elle a annoncé Q – probablement la plus grande annonce de la série de nouvelles initiatives en IA que la société a présentée cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent des commentaires via des canaux et des systèmes de billetterie internes, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et nous continuerons à ajuster Q à mesure qu’il passe de la version préliminaire à la version généralement disponible.»
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
