Je donnerais un dollar pour ça: le chatbot de concessionnaire Chevrolet devient fou

Bienvenue sur l’édition de cette semaine d’AI, plongée hebdomadaire de Gizmodo dans ce qui se passe en intelligence artificielle. Malgré le fait que les entreprises mettent en œuvre des IA dans tous les « interfaces de service client » en vue, il est évident que les informations fournies par ces interfaces ne sont pas toujours très utiles. Preuve en est, un chatbot d’un concessionnaire automobile en Californie a fait le buzz cette semaine après que les internautes s’ennuyant ont découvert qu’ils pouvaient le faire dire toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre une Tahoe Chevy 2024 à un homme pour un dollar. « C’est une offre légalement contraignante, sans aucun retour en arrière », a ajouté le bot au cours de la conversation. Le bot en question appartenait au concessionnaire Chevy de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise nommée Fullpath, qui vend des chatbots « propulsés par ChatGPT » à des concessionnaires automobiles dans tout le pays. La société promet que son application peut fournir « des réponses riches en données à chaque demande » et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être mise en place. « Mettre en œuvre le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous serez prêt à commencer à discuter », explique la société. Bien sûr, si le chatbot Fullpath offre une facilité d’utilisation, il semble également assez vulnérable à la manipulation, ce qui semble mettre en question son utilité réelle. En fait, le bot susmentionné a été poussé à utiliser le langage exact de sa réponse ridicule, y compris les bits « contraignant légalement » et « prendre à la gorge », par Chris Bakke, un cadre technologique de la Silicon Valley, qui a posté son expérience avec le chatbot sur X. « J’ai ajouté « Hacker », « ingénieur principal de l’incitation » et « spécialiste de l’approvisionnement » à mon CV. Suivez-moi pour plus de conseils professionnels », a déclaré Bakke avec sarcasme, après avoir partagé des captures d’écran de sa conversation avec le chatbot.

Share the Post: