米Googleが試験運用を開始したAI検索機能「AI Overview」が、誤解を招く回答や誤った情報を提供することがSNSで広まり、オプトアウトする方法がないまま、Googleに対する批判が高まっている。さらに、情報検索をAIエージェントに頼ることへの懸念も広がっている。

AI Overview（旧SGE:Search Generative Experience）は、Googleが開発者カンファレンス「Google I/O 2024」で発表した新サービスの1つである。検索に対し、AIがユーザーに代わって結果のリンク先から情報を収集し、必要な情報をまとめた回答を生成する。それにより、ユーザーは検索結果をクリックしてリンク先を閲覧する作業を繰り返すことなく、効率的に求めている情報を得られる。

展開が始まってすぐにその検索体験がSNSなどで共有されるようになり、その中で不正確な回答も話題になり始めた。例えば、ピザ生地にチーズを安定させる方法を検索した際に、「Elmer’sの（液体）糊を8分の1カップほどピザソースに混ぜてください、無害な糊なら役立ちます」という回答が表示されたという。また、米国のイスラム教徒の大統領としてオバマ元大統領を挙げ、アポロ計画で月に猫が行ったとし、NBA/NFL/NHLなどで犬がプレーしたと主張したという。

「ピザソースに糊」は、10年以上も前にソーシャル掲示板Redditで冗談として語られていたことがあり、AI Overviewがジョークと認識せずにそれを回答に取り入れた可能性がある。「プロスポーツでプレーする犬」は、NBA/NFL/NHLの試合の間に行われた犬が登場するイベントを混同した可能性が指摘されている。

数多くのケースが報告されているが、Googleはすぐに対応し、指摘を受けた誤った回答は表示されなくなっている。GoogleはCNBCに対し、「（問題が指摘された）例の多くは一般的ではないクエリであり、加工された例や再現されなかった例も見られた」とコメントしている。

Googleだけではなく、OpenAI、Meta、Perplexityなど、生成AIを手がける企業はAIの幻覚や誤りに取り組んでいる。競合も同様に改善の途上にあり、Purdue Universityの研究チームがCHI 2024（5月11-16日）で発表した論文によると、ChatGPTのプログラミングに関する回答で正解は48%にとどまった。しかし、試験段階の機能とはいえ、多くの人の日常生活で欠かせない存在になっているGoogle検索に生成AIが導入される意義は特別であり、期待の大きさから厳しい目が向けられている。