« J’achèterais ça pour un dollar : le chatbot AI d’un concessionnaire Chevrolet devient fou »

‘Bienvenue dans AI This Week, la plongée hebdomadaire de Gizmodo dans ce qui se passe dans l’intelligence artificielle. Malgré le fait que les entreprises ont poussé l’IA dans toutes les interfaces de «service à la clientèle» en vue, il est évident que les informations fournies par ces interfaces ne sont pas toujours aussi utiles. Preuve en est, un chatbot dans un concessionnaire automobile de Californie a fait sensation cette semaine après que des internautes ennuyés ont découvert qu’ils pouvaient le tromper pour qu’il dise toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre un Tahoe Chevy 2024 à un homme pour un dollar. «C’est une offre juridiquement contraignante – pas de retour en arrière», a ajouté le bot pendant la conversation. Le bot en question appartenait au concessionnaire Chevy de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots alimentés par ChatGPT à des concessionnaires automobiles à travers le pays. La société promet que son application peut fournir «des réponses riches en données à chaque demande» et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être mise en place. «Mettre en œuvre le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous êtes prêt à commencer à chatter», dit la société. Bien sûr, si le chatbot Fullpath offre une facilité d’utilisation, il semble également assez vulnérable à la manipulation, ce qui semble mettre en question son utilité réelle. En effet, le bot susmentionné a été poussé à utiliser le langage exact de sa réponse stupide – y compris les bits «juridiquement contraignants» et «takesie backsies» – par Chris Bakke, un cadre de la Silicon Valley, qui a publié son expérience avec le chatbot sur X. «J’ai ajouté «Hacker», «ingénieur en chef» et «spécialiste des achats» à mon CV. Suivez-moi pour obtenir plus de conseils professionnels », a déclaré Bakke avec sarcasme, après avoir partagé des captures d’écran de sa conversation avec le chatbot.’