Google admet que sa fonction d’aperçu de recherche IA est défaillante.

Lorsque des réponses étranges et trompeuses à des requêtes de recherche générées par la nouvelle fonctionnalité AI Overview de Google ont fait le buzz sur les réseaux sociaux la semaine dernière, l’entreprise a publié des déclarations qui minimisaient généralement l’idée que la technologie avait des problèmes. Jeudi dernier, la responsable de la recherche de l’entreprise, Liz Reid, a admis que les erreurs avaient mis en lumière des domaines nécessitant des améliorations, écrivant que « nous voulions expliquer ce qui s’était passé et les mesures que nous avions prises ». Le message de Reid faisait directement référence à deux des résultats d’AI Overview les plus viraux, et très incorrects. L’un d’eux a vu les algorithmes de Google recommander de manger des rochers car le faire « peut être bon pour vous », et l’autre suggérait d’utiliser de la colle non toxique pour épaissir la sauce pizza. Manger des rochers n’est pas un sujet sur lequel beaucoup de gens écrivaient ou posaient des questions en ligne, donc il n’y a pas beaucoup de sources sur lesquelles un moteur de recherche peut s’appuyer. Selon Reid, l’outil AI a trouvé un article du site satirique The Onion, repris par une société de logiciels, et a mal interprété l’information comme étant factuelle. En ce qui concerne Google conseillant à ses utilisateurs de mettre de la colle sur la pizza, Reid a essentiellement attribué l’erreur à un manque de sens de l’humour. « Nous avons vu des AI Overviews qui présentaient des contenus sarcastiques ou trollesques provenant de forums de discussion », a-t-elle écrit. « Les forums sont souvent une excellente source d’informations authentiques de première main, mais dans certains cas, ils peuvent conduire à des conseils peu utiles, comme utiliser de la colle pour faire tenir le fromage sur la pizza. » Il est probablement préférable de ne pas élaborer un menu de dîner généré par l’IA sans le lire attentivement au préalable. Reid a également suggéré que juger de la qualité de la nouvelle approche de Google en matière de recherche sur la base de captures d’écran virales serait injuste. Elle a affirmé que l’entreprise avait effectué des tests approfondis avant son lancement et que les données de l’entreprise montrent que les gens apprécient les AI Overviews, notamment en indiquant que les gens sont plus susceptibles de rester sur une page découverte de cette manière.