AI Overviews : Google s’explique après les réponses absurdes apparues sur son moteur de recherche

Lors du Google I/O 2024, Google a annoncé la disponibilité de sa nouvelle expérience de recherche par intelligence artificielle, AI Overviews, aux États-Unis. Cependant, depuis son lancement, de nombreux utilisateurs ont constaté et partagé sur les réseaux sociaux des erreurs ou réponses absurdes produites par l’outil : ajouter de la colle pour que le fromage adhère à la pizza, manger un caillou par jour, etc.

Face à ces nombreux commentaires, Google a réagi dans un blog post publié ce jeudi 30 mai 2024, par la voix de la responsable  de Google Search Liz Reid. La firme apporte quelques précisions sur le fonctionnement d’AI Overviews et sur les raisons qui pourraient expliquer certaines de ces erreurs.

Qu’est-ce que AI Overviews ?

Pour rappel, AI Overviews (anciennement nommée Search Generative Experience) est une fonctionnalité de Google qui utilise l’intelligence artificielle générative pour enrichir les résultats de recherche. Au-dessus des liens de la SERP, AI Overviews produit des résumés ou des réponses directes aux requêtes des utilisateurs. Cette technologie, basée sur le modèle Gemini, est capable de comprendre et de répondre à des questions complexes, d’organiser des informations et de proposer des contenus multimodaux.

AI Overviews introduit ainsi une nouvelle manière de rechercher des informations sur le web, en fournissant une réponse unique à une question, tout en permettant de compléter cette réponse par des liens. Il est donc essentiel que cet outil offre des réponses fiables aux utilisateurs.

Overviews n’hallucine pas

Dans son communiqué, Liz Reid précise que « les aperçus IA ne sont généralement pas « hallucinés » ou inventés, contrairement à d’autres produits LLM ». En effet, son fonctionnement diffère de celui des générateurs de texte tels que ChatGPT ou Gemini. AI Overviews ne se contente pas de puiser dans des données d’apprentissage ; il réalise une recherche traditionnelle sur le web, identifiant les résultats de haute qualité à partir de l’index de Google.

Lorsque les aperçus d’IA se trompent, c’est généralement pour d’autres raisons : mauvaise interprétation des requêtes, mauvaise interprétation d’une nuance de langage sur le web ou manque d’informations de qualité disponibles. (Ces problèmes se posent également avec d’autres fonctions de recherche), souligne Liz Reid.

La responsable de Google Search précise par ailleurs que le taux de précision d’AI Overviews est comparable à celui des featured snippets, qui sont également alimentés par l’IA et complètent les résultats de recherche traditionnels. Elle indique également que les résultats observés depuis la mise en place IA Overviews sont globalement positifs, avec une augmentation du temps passé par les utilisateurs sur les pages.

Google met en cause les utilisateurs

Sûre de son outil, Liz Reid ne cache pas ses doutes quant aux critiques des utilisateurs, et n’hésite pas à mettre en cause leur bonne foi. La responsable rappelle notamment que certaines captures publiées sur les réseaux sociaux sont en réalité des trucages : « Certains de ces résultats truqués étaient évidents et stupides. D’autres laissent entendre que nous avons renvoyé des résultats dangereux pour des sujets tels que laisser des chiens dans des voitures, fumer pendant la grossesse et la dépression ».

Plus surprenant, Liz Reid indique que certaines erreurs étaient dues à « des recherches absurdes, apparemment destinées à produire des résultats erronés ». Une justification qui peine à lever les doutes sur la fiabilité de la technologie.

Les erreurs sont dues à un « vide de données »

Selon Google, deux causes expliquent les erreurs d’AI Overviews :

1. L’incapacité à comprendre les contenus absurdes : l’outil a des difficultés à saisir les requêtes absurdes, mais également les contenus satiriques en ligne. Des utilisateurs ont par exemple constaté que certains aperçus prenaient au premier degré des contenus humoristiques issus de publications sur Reddit.
2. Le vide de données : lorsque peu d’informations sont disponibles en ligne, AI Overviews se repose sur les quelques sources disponibles, reprenant parfois des informations qui ne sont pas fiables. Les erreurs deviennent ainsi bien plus fréquentes lorsque la requête est inepte.

Les corrections apportées par Google

Pour corriger les erreurs, Google indique avoir apporté certains ajustements à AI Overviews, parmi lesquels :

• L’introduction de meilleurs mécanismes de détection pour les contenus absurdes et satiriques, qui seront désormais exclus des résultats de l’IA.
• La limitation de l’utilisation des contenus générés par les utilisateurs, comme ceux trouvés dans les forums ou sur les réseaux sociaux, pour générer les réponses.
• L’absence des réponses générées par l’IA pour certaines requêtes, incluant les requêtes absurdes ainsi que les contenus sensibles (liés à la santé, aux sujets d’actualité sensibles, etc.).