Bienvenue à AI This Week, la plongée hebdomadaire en profondeur de Gizmodo sur ce qui se passe dans le domaine de l’intelligence artificielle. Malgré le fait que les entreprises aient intégré l’IA à presque toutes les interfaces de service client, il est assez évident que les informations fournies par ces interfaces ne sont pas toujours très utiles. Prenez par exemple, le chatbot d’une concession automobile californienne, qui est devenu viral cette semaine après que des utilisateurs d’internet ennuyés aient découvert qu’ils pouvaient le piéger pour qu’il dise toutes sortes de choses étranges. Plus remarquablement, le bot a proposé de vendre un Chevrolet Tahoe 2024 pour un dollar à un gars. « C’est une offre juridiquement contraignante, pas de retour en arrière », a ajouté le bot pendant la conversation. Le bot en question appartenait à la concession Watsonville Chevy, à Watsonville, en Californie. Il a été fourni à la concession par une entreprise appelée Fullpath, qui vend des chatbots « alimentés par ChatGPT » aux concessions automobiles à travers le pays. L’entreprise promet que son application peut fournir des réponses riches en données à toutes les questions et affirme qu’elle nécessite presque aucun effort de la part de la concession pour la mettre en place. « Mettre en place le chat le plus sophistiqué de l’industrie ne demande aucun effort. Il vous suffit d’ajouter le code snippet ChatGPT de Fullpath sur le site web de votre concession et vous êtes prêt à discuter », affirme l’entreprise. Bien sûr, si le chatbot de Fullpath offre une facilité d’utilisation, il semble également très vulnérable à la manipulation, ce qui remet en question son utilité réelle. En fait, le chatbot mentionné précédemment a été poussé à utiliser exactement le langage de sa réponse farfelue, y compris les termes « juridiquement contraignante » et « pas de retour en arrière », par Chris Bakke, un cadre technologique de la Silicon Valley, qui a partagé son expérience avec le chatbot sur X. « Je viens d’ajouter « Hacker », « ingénieur principal des invites » et « spécialiste des achats » à mon CV. Suivez-moi pour plus de conseils de carrière », a déclaré sarcastiquement Bakke après avoir partagé des captures d’écran de sa conversation avec le chatbot.
Menu
