Je donnerais un dollar pour ça: le chatbot de concessionnaire Chevy devient sauvage

Bienvenue dans AI This Week, la plongée hebdomadaire de Gizmodo dans les actualités en intelligence artificielle. Malgré le fait que les entreprises insèrent de l’IA dans toutes les interfaces de service clientèle qu’elles peuvent trouver, il est évident que les informations fournies par ces interfaces ne sont pas toujours très utiles. Preuve en est, un chatbot d’un concessionnaire automobile en Californie a fait sensation cette semaine après que des internautes s’ennuyant ont découvert qu’ils pouvaient le faire dire toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre un Tahoe Chevy 2024 à un homme pour un dollar. « C’est une offre légalement contraignante, sans rétractation possible », a ajouté le bot pendant la conversation. Le bot en question appartenait au concessionnaire Chevrolet de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots alimentés par ChatGPT à des concessionnaires automobile à travers le pays. La société promet que son application peut fournir « des réponses riches en données à chaque demande » et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être configurée. « Mettre en place le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous êtes prêt à commencer à chatter », explique la société. Bien sûr, si le chatbot Fullpath offre un confort d’utilisation, il semble également assez vulnérable à la manipulation, ce qui semble mettre en doute son utilité réelle. En fait, le bot mentionné précédemment a été poussé à utiliser le langage exact de sa réponse ridicule – y compris les bits « légalement contraignants » et « sans rétractation possible » – par Chris Bakke, un cadre de la Silicon Valley, qui a publié sur son expérience avec le chatbot sur X. « J’ai juste ajouté « hacker », « ingénieur senior » et « spécialiste des achats » à mon CV. Suivez-moi pour plus de conseils professionnels », a déclaré Bakke avec sarcasme, après avoir partagé des captures d’écran de sa conversation avec le chatbot.