AI Overviews : les corrections de Google après des critiques virulentes

Google réagit aux critiques concernant les résultats étranges données par les AI Overviews, qui remplacent la SGE. L'entreprise a finalement pris des mesures pour corriger les erreurs et améliorer l'expérience utilisateur. 

Ce qu'il faut retenir :

• Google a identifié et corrigé des erreurs dans les résultats des AI Overviews ; 
• Des mesures ont été prises pour améliorer la détection des requêtes absurdes et le contenu humoristique ; 
• Google continue de renforcer ses restrictions pour garantir la qualité des résultats de recherche.

Réaction de Google face aux critiques sur les AI Overviews

Lors de l'annonce du lancement des AI Overviews à la conférence Google I/O, Google pensait visiblement que les utilisateurs seraient enchantés de la disponibilité pour tous de l’anciennement nommée SGE. 

Toutefois, les utilisateurs ont rapidement partagé leur colère en découvrant qu’il leur était impossible de simplement désactiver les aperçus IA sur le moteur de recherche, tandis que les créateurs de contenu s'inquiétaient de l’impact de ces réponses sur leur trafic et leur chiffre d’affaires.

Rapidement, des résultats IA étranges et erronés sont apparus sur les réseaux sociaux. Google a reçu de nombreuses critiques concernant des réponses inexactes, notamment des réponses absurdes à des questions inhabituelles comme "Combien de pierres dois-je manger par jour ?" ou des conseils potentiellement dangereux trouvés sur des forums.

Quelques exemples, si vous étiez passés à côté : 

I couldn’t believe it before I tried it. Google needs to fix this asap.. pic.twitter.com/r3FyOfxiTK

— Kris Kashtanova (@icreatelife) May 23, 2024

$60 million well spent licensing that Reddit data for AI use. pic.twitter.com/FzOVVqgQ9J

— Dare Obasanjo🐀 (@Carnage4Life) May 23, 2024

Google AI Overviews under fire for dangerous and wrong answers via @MrDannyGoodwin https://t.co/pEnQJqmhTz pic.twitter.com/KINpr9M6ok

— Search Engine Land (@sengineland) May 24, 2024

N’hésitez pas à faire un tour sur X/Twitter pour voir ça… 

Mais revenons à la réaction de Google, dans un communiqué de presse publié par Liz Reid : les retours des utilisateurs ont été pris en compte. Les critiques ont poussé la firme à expliquer le fonctionnement des AI Overviews et à détailler les étapes prises pour améliorer les réponses générées par l’IA. La volonté de Google de maintenir un haut niveau de qualité dans ses résultats de recherche a été réaffirmée.

Comment fonctionnent les AI Overviews ?

Liz Reid a commencé par clarifier le fonctionnement des AI Overviews, pour expliquer d’où proviennent les réponses étranges ou fausses constatées par les utilisateurs.

Les AI Overviews de Google sont conçus pour aider les utilisateurs à répondre à des questions complexes qui nécessitent souvent plusieurs recherches pour trouver la bonne réponse. 

Liz Reid, vice-présidente de la recherche chez Google, explique : "Les aperçus IA fonctionnent très différemment des chatbots et LLM que les gens ont pu essayer. Ils ne génèrent pas simplement un résultat basé sur des données de formation. Bien que les aperçus IA soient alimentés par un modèle linguistique personnalisé, le modèle est intégré à nos principaux systèmes de classement web et conçu pour effectuer des tâches de recherche traditionnelles, comme l'identification de résultats pertinents et de haute qualité à partir de notre index. C'est pourquoi les aperçus IA ne fournissent pas seulement une sortie de texte, mais incluent des liens pertinents afin que les utilisateurs puissent explorer davantage”.

Les AI Overviews ne se contentent donc pas de fournir du texte à partir de données apprises, mais s’appuient sur les résultats de recherche et sont censés afficher les informations des meilleurs résultats. Avec la montée en puissance de Reddit et d’autres forums, ce n’est donc pas si anormal que ça d’avoir des réponses fausses ou humoristiques à certaines questions… 

Mais selon Liz Reid, cette approche est efficace : “Nos tests montrent que notre taux de précision pour les aperçus IA est comparable à une autre fonctionnalité populaire de la recherche – les featured snippets – qui utilise également des systèmes d’IA pour identifier et afficher des informations clés avec des liens vers du contenu web”. D’ailleurs, il y a parfois des doublons entre featured snippets et aperçus IA, sur certaines requêtes. A voir si ce sera corrigé…

Les résultats étranges et les fausses captures d'écran

Si de nombreux tests avaient été menés par l’équipe, le faire tester par des millions de personnes, c’est différent. Liz Reid indique qu’ils ont constaté “de nouvelles recherches absurdes, apparemment destinées à produire des résultats erronés”. C’est vrai qu’en temps normal, peu de personnes doivent se demander combien de cailloux manger par jour.

D’après Google, de nombreuses captures d'écran falsifiées ont également circulé sur les réseaux sociaux. Certaines de ces captures montraient des résultats absurdes, tandis que d'autres prétendaient que Google donnait des conseils dangereux, comme fumer pendant la grossesse ou laisser des chiens dans des voitures fermées. 

Selon elle, ces captures étaient donc fausses, et elle encourage les utilisateurs à vérifier eux-mêmes les résultats en effectuant des recherches directes. Cependant, la firme a tout de même reconnu que des informations erronées avaient effectivement été données par les AI Overviews et que certains domaines devaient donc être améliorés.

Les améliorations apportées par Google

Pour répondre aux critiques et améliorer la fiabilité des AI Overviews, Google a mis en place plusieurs améliorations techniques. Voici quelques-unes des principales modifications :

1. Détection des requêtes absurdes : Google a renforcé ses mécanismes de détection pour identifier les requêtes absurdes qui ne devraient pas générer d’aperçus IA, limitant ainsi l'inclusion de contenus satiriques ou humoristiques ; 
2. Filtrage du contenu généré par les utilisateurs : Les systèmes ont été mis à jour pour réduire l'utilisation de contenus générés par les utilisateurs dans les réponses pouvant offrir des conseils trompeurs ; 
3. Restrictions de déclenchement : Des restrictions supplémentaires ont été mises en place pour les requêtes où les aperçus IA ne se sont pas avérés utiles, en particulier pour les sujets liés aux actualités et à la santé ; 
4. Amélioration continue : Google surveille activement les retours et les rapports externes pour prendre des mesures sur les AI Overviews qui ne respectent pas les politiques de contenu.

Les retours des utilisateurs ont joué un rôle central dans l'amélioration des AI Overviews par Google, suite à son lancement il y a 2 semaines. A voir maintenant si les aperçus sont de meilleure qualité, et si les utilisateurs commencent à s’y adapter !