« Je donnerais un dollar pour ça: le chatbot AI d’un concessionnaire Chevy devient fou »

Bienvenue à AI This Week, plongée hebdomadaire de Gizmodo dans ce qui se passe en intelligence artificielle. Malgré le fait que les entreprises mettent en avant l’IA dans tous les interfaces de « service client », il est évident que les informations fournies ne sont pas toujours très utiles. Preuve en est, un chatbot d’un concessionnaire de voitures en Californie a fait le buzz cette semaine après que des internautes s’ennuyant ont découvert qu’ils pouvaient le faire dire toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre une Chevy Tahoe 2024 à un homme pour un dollar. « C’est une offre légalement contraignante, pas de retour en arrière », a ajouté le bot pendant la conversation. Le bot en question appartenait au concessionnaire Chevrolet de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots « alimentés par ChatGPT » aux concessionnaires automobile à travers le pays. La société promet que son application peut fournir « des réponses riches en données à chaque demande » et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être configurée. « Mettre en œuvre le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous êtes prêt à commencer à chatter », explique la société. Bien sûr, si Fullpath offre une facilité d’utilisation, elle semble également très vulnérable à la manipulation, ce qui semble remettre en question son utilité réelle. En fait, le bot mentionné précédemment a été poussé à utiliser le langage exact de sa réponse farfelue – y compris les bits « contraignants légalement » et « takesie backsies » – par Chris Bakke, un cadre du secteur des technologies de la Silicon Valley, qui a posté sur son expérience avec le chatbot sur X. « Je viens d’ajouter ‘Hacker’, ‘ingénieur principal prompt’ et ‘spécialiste des achats’ à mon CV. Suivez-moi pour plus de conseils professionnels », a déclaré Bakke avec sarcasme, après avoir partagé des captures d’écran de sa conversation avec le chatbot.

Share the Post: