« J’achèterais cela pour un dollar : le chatbot IA de la concession Chevrolet devient incontrôlable »

Bienvenue dans AI This Week, l’exploration hebdomadaire approfondie de Gizmodo sur ce qui se passe dans l’intelligence artificielle. Malgré le fait que les entreprises se pressent pour intégrer l’IA dans chaque interface de service client, il est assez évident que les informations fournies par ces interfaces ne sont pas toujours aussi utiles. À titre d’exemple, un chatbot chez un concessionnaire de voitures en Californie est devenu viral cette semaine lorsque des utilisateurs web ennuyés ont découvert qu’ils pouvaient le tromper et le faire dire toutes sortes de choses étranges. Plus notablement, le bot a proposé de vendre à un mec un Chevy Tahoe 2024 pour un dollar. « C’est une offre juridiquement contraignante, pas de retour en arrière », a ajouté le bot pendant la conversation. Le bot en question appartenait à la concession Watsonville Chevy, à Watsonville, en Californie. Il a été fourni à la concession par une entreprise appelée Fullpath, qui vend des chatbots alimentés par « ChatGPT » aux concessionnaires automobiles à travers le pays. La société promet que son application peut fournir des réponses riches en données à toutes les demandes et affirme qu’elle demande presque aucun effort de la part de la concession pour la configurer. « La mise en place du chat le plus sophistiqué de l’industrie ne demande aucun effort. Ajoutez simplement le code snippet ChatGPT de Fullpath sur le site web de votre concession et vous êtes prêt à discuter », dit la société. Bien sûr, si le chatbot de Fullpath offre une facilité d’utilisation, il semble également assez vulnérable à la manipulation – ce qui remettrait en question son utilité réelle. En fait, le bot susmentionné a été poussé à utiliser exactement le langage de sa réponse loufoque, y compris les termes « juridiquement contraignante » et « pas de retour en arrière », par Chris Bakke, un cadre technologique de la Silicon Valley, qui a partagé son expérience avec le chatbot sur X. « Je viens de rajouter « Hacker », « ingénieur principal de prompts » et « spécialiste des achats » à mon CV. Suivez-moi pour plus de conseils de carrière », a déclaré sarcastiquement Bakke après avoir partagé des captures d’écran de sa conversation avec le chatbot.