Un regard approfondi sur les réponses absurdes de l’IA de Google : comprendre les erreurs et débusquer les ajustements

Une nouvelle expérience de recherche

Google a introduit une expérience de recherche révolutionnaire, AI Overviews, lors du Google I/O 2024. Cependant, depuis son lancement, cet outil a produit des réponses absurdes voire erronées, provoquant l’indignation des utilisateurs. Des suggestions telles que « ajouter de la colle pour que le fromage adhère à la pizza » ou « manger un caillou par jour » ont fait le tour des réseaux sociaux.

En réponse à cette controverse, Google a publié un post de blog expliquant le fonctionnement d’AI Overviews et les raisons possibles de ces erreurs. La responsable de Google Search, Liz Reid, a pris la parole pour clarifier ces problèmes.

Comprendre les aperçus IA

AI Overviews, anciennement nommée Search Generative Experience, est une fonctionnalité de Google qui utilise l’intelligence artificielle générative pour enrichir les résultats de recherche. Au-delà des liens SERP, AI Overviews produit des résumés ou des réponses directes aux requêtes des utilisateurs. Cette technologie, basée sur le modèle Gemini, est capable de comprendre et de répondre à des questions complexes, d’organiser des informations et de proposer des contenus multimodaux.

AI Overviews offre une nouvelle façon de rechercher des informations sur le web. En fournissant une réponse unique à une question, tout en permettant de compléter cette réponse par des liens. Il est donc crucial que cet outil offre des réponses fiables aux utilisateurs.

Les aperçus IA ne sont pas hallucinés

Contrairement à d’autres produits LLM, les aperçus IA ne sont généralement pas « hallucinés » ou inventés, comme l’a précisé Liz Reid. AI Overviews ne se contente pas de puiser dans des données d’apprentissage ; il réalise une recherche traditionnelle sur le web, identifiant les résultats de haute qualité à partir de l’index de Google.

Cependant, lorsque les aperçus d’IA se trompent, cela est souvent dû à une mauvaise interprétation des requêtes, une mauvaise interprétation d’une nuance de langage sur le web ou un manque d’informations de qualité disponibles.

Les utilisateurs mis en cause par Google

Face aux critiques, Liz Reid a mis en doute la bonne foi des utilisateurs. Elle a rappelé que certaines captures publiées sur les réseaux sociaux étaient en réalité des trucages. Certains utilisateurs auraient même effectué des recherches absurdes pour provoquer des résultats erronés.

Malgré ces explications, des doutes persistent sur la fiabilité de la technologie.

Les causes des erreurs selon Google

• AI Overviews a du mal à comprendre les contenus absurdes et satiriques en ligne. Il prend parfois au premier degré des contenus humoristiques issus de publications sur Reddit.
• Quand peu d’informations sont disponibles en ligne, AI Overviews se repose sur les quelques sources disponibles, reprenant parfois des informations qui ne sont pas fiables. Les erreurs deviennent ainsi bien plus fréquentes lorsque la requête est inepte.

Les ajustements apportés par Google

Google a effectué des ajustements sur AI Overviews pour corriger les erreurs :

• Des mécanismes de détection améliorés pour les contenus absurdes et satiriques ont été introduits. Ces contenus seront désormais exclus des résultats de l’IA.
• L’utilisation des contenus générés par les utilisateurs a été limitée pour générer les réponses.
• Les réponses générées par l’IA ne seront plus fournies pour certaines requêtes, notamment les requêtes absurdes et les contenus sensibles.