‘Je l’achèterais pour un dollar : le chatbot IA d’un concessionnaire Chevrolet passe à l’attaque’

Bienvenue sur AI This Week, le plongeon hebdomadaire de Gizmodo dans ce qui se passe en intelligence artificielle. Malgré le fait que les entreprises mettent en avant l’IA dans toutes les interfaces de service clientèle, il est évident que les informations fournies par ces interfaces ne sont pas toujours très utiles. En prenant l’exemple d’un chatbot dans un concessionnaire automobile en Californie qui a fait le buzz cette semaine après que des internautes ennuyés aient découvert qu’ils pouvaient le tromper pour qu’il dise toutes sortes de choses étranges. Plus notablement, le bot a offert de vendre une Chevrolet Tahoe 2024 à un homme pour un dollar. « C’est une offre légalement contraignante, sans aucune possibilité de retour », a ajouté le bot pendant la conversation. Le bot en question appartenait au concessionnaire Chevrolet de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots « alimentés par ChatGPT » aux concessionnaires automobiles dans tout le pays. L’entreprise promet que son application peut fournir « des réponses riches en données à chaque demande » et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être configurée. « Mettre en place le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous êtes prêt à commencer à discuter », dit l’entreprise. Bien sûr, si le chatbot de Fullpath offre un ease d’utilisation, il semble également assez vulnérable à la manipulation, ce qui semble mettre en question son utilité réelle. En fait, le bot susmentionné a été incité à utiliser le langage exact de sa réponse délirante – y compris les bits « légalement contraignants » et « sans aucune possibilité de retour » – par Chris Bakke, un cadre du Silicon Valley, qui a posté à propos de son expérience avec le chatbot sur X. « Je viens d’ajouter ‘Hacker’, ‘ingénieur principal des invites’ et ‘spécialiste des achats’ à mon CV. Suivez-moi pour obtenir plus de conseils sur la carrière », a déclaré Bakke avec sarcasme, après avoir partagé des captures d’écran de sa conversation avec le chatbot.