Entretien Parfois, les gens veulent abuser des systèmes d’IA pour divulguer des secrets d’entreprise. D’autres fois, ils veulent simplement obliger un LLM à parler comme un pirate. Dans tous les cas, c’est le rôle de l’équipe rouge de l’IA d’anticiper comment quelqu’un pourrait essayer de weaponiser ces systèmes, puis d’aider à résoudre ces problèmes. Ram Shankar Siva Kumar a fondé l’équipe rouge de l’IA de Microsoft en 2019, bien avant l’avènement de ChatGPT. Kumar et ses collègues ont rencontré divers échecs d’IA, et vous pouvez en savoir plus à ce sujet dans une interview avec The Register ci-dessous. Vidéo Youtube « L’idée fausse commune est que les équipes rouges de l’IA peuvent remplacer toutes les équipes rouges traditionnelles, » a-t-il dit. « Ce n’est absolument pas le cas. »
« Désarmer l’IA » : l’encyclique historique du pape Léon XIV, ClickUp remplace 22 % de ses employés par 3 000 agents IA et la Gen Z se révolte contre l’intelligence artificielle
Le pape Léon XIV publie Magnifica humanitas, première encyclique dédiée à la dignité humaine face à l’IA. ClickUp licencie 22 % de son personnel et déploie 3 000 agents IA. La Gen Z américaine hue les discours pro-IA. Google prépare ses Googlebooks et la Chine donne une identité numérique aux robots. Décryptage par Netz Informatique.