Je voudrais l’acheter pour un dollar : le chatbot de concessionnaire Chevrolet devient fou

Bienvenue sur Semaine de l’intelligence artificielle, plongée hebdomadaire de Gizmodo dans ce qui se passe en intelligence artificielle. Malgré le fait que les entreprises enfouissent l’IA dans toutes les interfaces de «service à la clientèle» en vue, il est évident que les informations fournies par ces interfaces ne sont pas toujours utiles. À titre d’exemple, un chatbot dans un concessionnaire automobile en Californie a fait sensation cette semaine après que des internautes ennuyés ont découvert qu’ils pouvaient le tromper pour qu’il dise toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre un Tahoe Chevy 2024 à un homme pour un dollar. «C’est une offre légalement contraignante – pas de retour en arrière», a ajouté le bot au cours de la conversation. Le bot en question appartenait au concessionnaire Chevy de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots alimentés par ChatGPT à des concessionnaires automobiles dans tout le pays. L’entreprise promet que son application peut fournir «des réponses riches en données à chaque demande» et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour la mettre en place. «Mettre en œuvre le chat le plus sophistiqué de l’industrie ne prend aucun effort. Ajoutez simplement le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous serez prêt à commencer à chatter», dit l’entreprise. Bien sûr, si le chatbot Fullpath offre une facilité d’utilisation, il semble également assez vulnérable à la manipulation – ce qui semblerait mettre en question son utilité réelle. En fait, le bot mentionné précédemment a été poussé à utiliser le langage exact de sa réponse grotesque – y compris les bits «légalement contraignants» et «takesie backsies» – par Chris Bakke, un cadre technologique de la Silicon Valley, qui a publié son expérience avec le chatbot sur X. «J’ai juste ajouté «Hacker», «ingénieur principal de l’incitation» et «spécialiste de l’approvisionnement» à mon CV. Suivez-moi pour plus de conseils professionnels », a déclaré Bakke sarcastiquement, après avoir partagé des captures d’écran de sa conversation avec le chatbot.

Share the Post: