Entretien Parfois, les gens veulent abuser des systèmes d’IA pour divulguer des secrets d’entreprise. D’autres fois, ils veulent simplement obliger un LLM à parler comme un pirate. Dans tous les cas, c’est le rôle de l’équipe rouge de l’IA d’anticiper comment quelqu’un pourrait essayer de weaponiser ces systèmes, puis d’aider à résoudre ces problèmes. Ram Shankar Siva Kumar a fondé l’équipe rouge de l’IA de Microsoft en 2019, bien avant l’avènement de ChatGPT. Kumar et ses collègues ont rencontré divers échecs d’IA, et vous pouvez en savoir plus à ce sujet dans une interview avec The Register ci-dessous. Vidéo Youtube « L’idée fausse commune est que les équipes rouges de l’IA peuvent remplacer toutes les équipes rouges traditionnelles, » a-t-il dit. « Ce n’est absolument pas le cas. »
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
