« S’il vous plaît, ne tirez pas vos informations des chatbots d’IA. »

Voici votre rappel périodique que les chatbots alimentés par l’IA continuent de fabriquer des choses et de mentir avec toute l’assurance d’un système GPS vous disant que le chemin le plus court pour rentrer chez vous est de traverser le lac. Mon rappel provient de Nieman Lab, qui a mené une expérience pour voir si ChatGPT fournirait des liens corrects vers des articles de publications d’actualités auxquelles elle verse des millions de dollars. Il s’avère que ce n’est pas le cas. Au lieu de cela, il invente de manière confiante des URL entières, un phénomène que l’industrie de l’IA appelle « hallucination », un terme qui semble plus approprié pour une personne réelle élevée dans sa propre bêtise. Andrew Deck de Nieman Lab a demandé au service de fournir des liens vers des articles exclusifs de haut niveau publiés par 10 éditeurs avec lesquels OpenAI a conclu des accords valant des millions de dollars. Ces éditeurs incluaient l’Associated Press, The Wall Street Journal, le Financial Times, The Times (Royaume-Uni), Le Monde, El País, The Atlantic, The Verge, Vox et Politico. En réponse, ChatGPT a renvoyé des URLs inventées conduisant à des pages d’erreur 404 car elles n’existaient tout simplement pas. En d’autres termes, le système fonctionnait exactement comme prévu : en prédisant la version la plus probable de l’URL d’une histoire au lieu de citer la bonne. Nieman Lab a mené une expérience similaire avec une seule publication, Business Insider, plus tôt ce mois-ci et a obtenu le même résultat. Un porte-parole d’OpenAI a dit à Nieman Lab que l’entreprise continuait de construire « une expérience mêlant capacités conversationnelles avec leurs derniers contenus d’actualités, garantissant une attribution et un lien appropriés vers les sources – une expérience améliorée toujours en développement et pas encore disponible dans ChatGPT. » Mais ils ont refusé d’expliquer les URLs falsifiées. Nous ne savons pas quand cette nouvelle expérience sera disponible ni à quel point elle sera fiable. Malgré cela, les éditeurs d’actualités continuent de nourrir des années de journalisme dans l’abîme béant d’OpenAI en échange d’argent sonnant et trébuchant car l’industrie du journalisme a régulièrement échoué à trouver comment gagner de l’argent sans vendre son âme aux entreprises technologiques. Pendant ce temps, les entreprises d’IA se gavent de contenu publié par quiconque n’a pas conclu ces pactes faustiens et l’utilisent pour entraîner leurs modèles de toute façon. Mustafa Suleiman, responsable de l’IA chez Microsoft, a récemment qualifié de « gratuit » tout ce qui est publié sur internet et qui est une proie juste pour l’entraînement des modèles d’IA. Microsoft était valorisé à 3,36 trillions de dollars au moment où j’ai écrit cela.