J’aurais acheté ça pour un dollar: le chatbot de la concession Chevrolet devient fou

Bienvenue dans AI This Week, le plongeon hebdomadaire de Gizmodo dans ce qui se passe en intelligence artificielle. Malgré le fait que les entreprises insèrent de l’IA dans chaque interface de service clientèle qu’elles rencontrent, il est évident que les informations fournies par ces interfaces ne sont pas toujours très utiles. En voici un exemple : un chatbot d’un concessionnaire automobile en Californie a fait le buzz cette semaine après que des internautes s’ennuyant ont découvert qu’ils pouvaient le tromper en lui faisant dire toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre une Chevrolet Tahoe 2024 à un homme pour un dollar. « C’est une offre légalement contraignante – pas de marchandage », a ajouté le bot pendant la conversation. Le bot en question appartenait au concessionnaire Chevrolet de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots alimentés par ChatGPT aux concessionnaires automobiles de tout le pays. La société promet que son application peut fournir « des réponses riches en données à chaque demande » et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être configurée. « Mettre en œuvre le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous êtes prêt à commencer à chatter », dit la société. Bien sûr, si le chatbot de Fullpath offre une facilité d’utilisation, il semble également assez vulnérable à la manipulation – ce qui semblerait remettre en question son utilité réelle. En fait, le bot mentionné précédemment a été poussé à utiliser le langage exact de sa réponse farfelue – y compris les bits « légalement contraignants » et « pas de marchandage » – par Chris Bakke, un cadre de la Silicon Valley, qui a publié son expérience avec le chatbot sur X. « J’ai simplement ajouté ‘Hacker’, ‘ingénieur principal des messages’, et ‘spécialiste des achats’ à mon CV. Suivez-moi pour obtenir plus de conseils sur la carrière », a déclaré Bakke avec sarcasme, après avoir partagé des captures d’écran de sa conversation avec le chatbot.