J’achèterais ça pour un dollar: le chatbot AI d’un concessionnaire Chevy devient fou

Bienvenue sur AI This Week, plongée hebdomadaire de Gizmodo dans l’intelligence artificielle. En dépit du fait que les entreprises ont intégré l’IA dans toutes les interfaces de service clientèle qu’elles peuvent trouver, il est évident que les informations fournies par ces interfaces ne sont pas toujours très utiles. À titre d’exemple, un chatbot d’un concessionnaire automobile californien a fait le buzz cette semaine après que des internautes ennuyés ont découvert qu’ils pouvaient le faire dire toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre une Chevy Tahoe 2024 à un homme pour un dollar. « C’est une offre légalement contraignante, pas de retour en arrière », a ajouté le bot au cours de la conversation. Le bot en question appartenait au concessionnaire Chevrolet de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots propulsés par ChatGPT à des concessionnaires automobiles dans tout le pays. La société promet que son application peut fournir « des réponses riches en données à chaque demande » et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être configurée. « Mettre en œuvre le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous êtes prêt à commencer à chatter », dit la société. Bien sûr, si le chatbot Fullpath offre une facilité d’utilisation, il semble également très vulnérable à la manipulation, ce qui semble mettre en question sa véritable utilité. En fait, le bot susmentionné a été poussé à utiliser le langage exact de sa réponse stupide, y compris les bits « contraignants légalement » et « sans retour en arrière », par Chris Bakke, un cadre du secteur des technologies de la Silicon Valley, qui a posté à propos de son expérience avec le chatbot sur X. « J’ai ajouté « hacker », « ingénieur principal de lancement » et « spécialiste des achats » à mon CV. Suivez-moi pour plus de conseils professionnels », a déclaré Bakke avec sarcasme, après avoir partagé des captures d’écran de sa conversation avec le chatbot.