Trois jours après l’annonce d’Amazon de son chatbot IA Q, certains employés sonnent l’alarme en raison de problèmes d’exactitude et de confidentialité. Q «souffre d’hallucinations sévères et fuit des données confidentielles», notamment l’emplacement des centres de données AWS, les programmes de réduction internes et les fonctionnalités non publiées, selon des documents confidentiels obtenus par Platformer. Un employé a classé l’incident comme «sev 2», ce qui signifie un incident suffisamment grave pour justifier le fait de pager des ingénieurs la nuit et de les faire travailler le week-end pour le réparer. Les premiers ennuis de Q interviennent alors que Amazon s’efforce de lutter contre la perception que Microsoft, Google et d’autres entreprises de technologie ont surpassé Amazon dans la course à la construction d’outils et d’infrastructures tirant parti de l’intelligence générative artificielle. En septembre, la société a annoncé qu’elle investirait jusqu’à 4 milliards de dollars dans la start-up Anthropic. Mardi, lors de sa conférence annuelle Amazon Web Services, elle a annoncé Q – probablement la plus haute annonce en termes de nouvelles initiatives AI que la société a présentées cette semaine. Dans une déclaration, Amazon a minimisé l’importance des discussions entre employés. «Certains employés partagent leurs commentaires via des canaux et des systèmes de billetterie internes, ce qui est une pratique courante chez Amazon», a déclaré un porte-parole. «Aucun problème de sécurité n’a été identifié en raison de ce feedback. Nous apprécions tous les commentaires que nous avons déjà reçus et continuerons à ajuster Q alors qu’il passe de la version préliminaire à la version générale.»
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
