Vous n’avez pas besoin de savoir coder pour créer votre propre chatbot IA. Depuis le début de novembre, peu de temps avant le chaos qui a frappé l’entreprise, OpenAI permet à n’importe qui de créer et de publier ses propres versions personnalisées de ChatGPT, appelées «GPT». Des milliers ont déjà été créés : un «GPT nomade» donne des conseils sur le travail et la vie à distance, un autre prétend parcourir 200 millions de documents académiques pour répondre à vos questions, et un autre vous transformera en personnage de Pixar. Cependant, ces GPT personnalisés peuvent également être forcés de fuiter leurs secrets. Les chercheurs en sécurité et les technologues qui sondent les chatbots personnalisés les ont faire déborder les instructions initiales qu’ils ont reçues lors de leur création, et ont également découvert et téléchargé les fichiers utilisés pour personnaliser les chatbots. Les données personnelles ou les données propriétaires des utilisateurs peuvent être mises en danger, selon les experts. «Les inquiétudes de confidentialité liées aux fuites de fichiers doivent être prises au sérieux», explique Jiahao Yu, chercheur en informatique à l’université Northwestern. «Même s’ils ne contiennent pas d’informations sensibles, ils peuvent contenir des connaissances que le concepteur ne veut pas partager avec d’autres, et [qui servent] de partie centrale du GPT personnalisé.» Avec d’autres chercheurs de l’université Northwestern, Yu a testé plus de 200 GPT personnalisés et a constaté qu’il était «surprenant de facile» de révéler des informations à partir d’eux. «Notre taux de réussite était de 100% pour les fuites de fichiers et de 97% pour l’extraction de l’invite système, ce qui est possible avec des invitations simples qui ne nécessitent pas de connaissances spécialisées en ingénierie d’invitation ou en équipe rouge», explique Yu. Les GPT personnalisés sont, par leur conception même, faciles à créer. Les personnes disposant d’un abonnement OpenAI peuvent créer les GPT, également appelés agents IA. OpenAI affirme que les GPT peuvent être créés à des fins personnelles ou publiés sur le Web. La société prévoit que les développeurs puissent un jour gagner de l’argent en fonction du nombre de personnes qui utilisent les GPT.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
