Disponible aux États-Unis pour le moteur de recherche Google, le module AI Overview propose des résumés générés par l'IA en plus des résultats traditionnels. En s'appuyant sur un nouveau modèle Gemini personnalisé, l'expérience est amenée à prendre de l'ampleur en répondant à des questions complexes via plusieurs étapes et des questions avec des vidéos.

Alors que Google a officialisé l'arrivée prochaine de la publicité pour AI Overview, cette fonctionnalité connaît des ratés retentissants depuis son récent déploiement à grande échelle outre-Atlantique. Auparavant, elle était expérimentale et réservée aux Search Labs (Search Generative Experience).

En réponse à une requête concernant du fromage qui n'adhère pas sur une pizza, l'IA générative a ainsi pu conseiller d'ajouter de la colle non toxique à la sauce. AI Overview a par ailleurs répondu Barack Hussein Obama à une question sur combien de présidents musulmans les États-Unis ont eu.

Pas bon pour un moteur de recherche de l'importance de Google

D'autres réponses farfelues, fausses, voire dangereuses obtenues avec Google dans AI Overview ont été relayées sur les réseaux sociaux. Un bad buzz susceptible de mettre à mal l'image de marque et la crédibilité du célèbre moteur de recherche. Tout ce que Google veut éviter, mais des initiatives d'IA comme celles de Microsoft avec Bing (grâce à OpenAI) l'obligent à agir sans trop tarder.

" La vaste majorité des aperçus IA (ndlr : AI Overviews) fournissent des informations de grande qualité, avec des liens permettant d'aller plus loin sur le Web. De nombreux exemples que nous avons vus étaient des requêtes peu courantes, et nous avons également vu des exemples qui étaient trafiqués ou que nous ne pouvions pas reproduire ", a déclaré un porte-parole de Google (CNBC).

Google assure que des tests approfondis ont été effectués avant le lancement de l'expérience AI Overview, et ajoute que des mesures rapides de correction et de suppression sont prises si besoin. Notamment lorsque des résultats violent les règlements du groupe.

Un souci avec l'origine de certains contenus

The Verge rapporte que Google s'empresse de désactiver manuellement des aperçus IA pour des recherches spécifiques, à mesure que des mèmes font leur apparition sur le Web. Cela vient en plus d'une amélioration globale du système.

Le problème des hallucinations de l'IA générative n'est pas nécessairement en cause. Pour certaines réponses ubuesques, AI Overview semble se baser sur des commentaires et des blagues émanant de Reddit, des contenus du site satirique The Onion.

Lors de sa conférence Google I/O 2024, Google a indiqué que AI Overview sera disponible pour plus d'un milliard de personnes d'ici la fin de cette année.