Entretien Parfois, les gens veulent abuser des systèmes d’IA pour divulguer des secrets d’entreprise. D’autres fois, ils veulent juste forcer un LLM à parler comme un pirate. De toute façon, il appartient à l’équipe rouge d’IA d’anticiper comment quelqu’un pourrait essayer de weaponiser ces systèmes, puis d’aider à résoudre ces problèmes. Ram Shankar Siva Kumar a fondé l’équipe rouge d’IA de Microsoft en 2019, bien avant l’avènement de ChatGPT. Kumar et ses collègues ont rencontré divers échecs en matière d’IA, dont vous pouvez entendre parler dans une interview avec le site The Register ci-dessous.
Vidéo YouTube
« La principale idée fausse est la suivante : les équipes rouges d’IA peuvent remplacer toutes les équipes rouges traditionnelles », a-t-il déclaré. « Ce n’est absolument pas le cas. »
Le Modèle OCEAN (Big Five) : Un Outil Clé pour Mieux Se Connaître
Le modèle OCEAN, également appelé Big Five, est aujourd’hui l’un des outils les plus reconnus dans le domaine de la
