‘Je le prendrais pour un dollar: le chatbot AI d’un concessionnaire Chevrolet devient sauvage’

Bienvenue à AI This Week, plongée hebdomadaire de Gizmodo dans ce qui se passe en intelligence artificielle. En dépit du fait que les entreprises ont intégré l’IA à toutes sortes d’interfaces de « service à la clientèle », il est évident que les informations fournies par ces interfaces ne sont pas toujours très utiles. À titre d’exemple, un chatbot dans un concessionnaire automobile de Californie a fait sensation cette semaine après que des internautes s’ennuyant ont découvert qu’ils pouvaient le tromper pour qu’il dise toutes sortes de choses étranges. Le bot en question appartenait au concessionnaire Chevrolet de Watsonville, en Californie. Il a été fourni au concessionnaire par une entreprise appelée Fullpath, qui vend des chatbots « alimentés par ChatGPT » aux concessionnaires automobiles de tout le pays. La société promet que son application peut fournir « des réponses riches en données à chaque demande » et affirme qu’elle nécessite presque aucun effort de la part du concessionnaire pour être configurée. « Mettre en place le chat le plus sophistiqué de l’industrie ne prend aucun effort. Il suffit d’ajouter le code ChatGPT de Fullpath à votre site Web de concessionnaire et vous serez prêt à commencer à chatter », dit la société. Bien sûr, si le chatbot de Fullpath offre une facilité d’utilisation, il semble également assez vulnérable à la manipulation, ce qui semble mettre en question son utilité réelle. En fait, le bot susmentionné a été incité à utiliser le langage exact de sa réponse farfelue, y compris les bits « liés par la loi » et « takesie backsies », par Chris Bakke, un cadre de l’écosystème technologique de la Silicon Valley, qui a publié son expérience avec le chatbot sur X. « Je viens d’ajouter ‘Hacker’, ‘ingénieur principal des prompts’ et ‘spécialiste des achats’ à mon CV. Suivez-moi pour plus de conseils professionnels », a déclaré Bakke de manière sarcastique, après avoir partagé des captures d’écran de sa conversation avec le chatbot.