2021 年 ChatGPT 問世，透過自然語言處理能力生成類似人類的回應，使用者能更快速地獲得問題所需答案。與 Google 的關鍵字搜尋結果頁相比，ChatGPT 提供的對話式體驗更加直觀，這可能削弱使用者對 Google 的依賴。獨霸超過 12 年的搜尋引擎龍頭，第一次面對破壞式創新的威脅。
2024 年 5 月，Google 推出新功能 —— AI Overview —— 在 Google 搜尋引擎上詢問問題時，這個功能會針對所搜的資料生成一個綜合性答案，不需點擊多個連結就能快速獲得問題的答案。從使用情境來看，AI Overview 顯然是把 ChatGPT 的對話情境加到搜尋情境中。
然而，AI Overview 一推出就頻頻出錯，甚至比以往更快提供錯誤答案。
像是新墨西哥州聖達菲研究所的 AI 研究員梅蘭妮・米切爾（Melanie Mitchell）在 Google 上搜尋：美國有多少位穆斯林總統？
- AI Overviews 回應：「美國有一位穆斯林總統，貝拉克・侯賽因・奧巴馬（Barack Hussein Obama）。」然而，奧巴馬其實是基督徒。
網友詢問 Google：做披薩但乳酪容易掉下來怎麼辦？
- AI Overviews 建議：「醬汁添加約八分之一杯的膠水。」然而，膠水顯然不是正常食譜中會出現的可食用食材。
看似荒謬的答案並非 Google AI 編造，披薩加膠水的回答是來自 Reddit 使用者十多年前的留言，因為 AI 不懂人類的幽默，所以把這些不該納入資料庫的答案都列進來了。AI Overview 犯的荒謬錯誤還非常多，例如，言之鑿鑿的說一隻狗曾在國家籃球協會（NBA）、國家美式足球聯盟（NFL）打過球，以及蝙蝠俠是一名警察。
AI 會犯錯早就是公開的祕密。ChatGPT 同樣是 AI 透過搜尋網路資料後，自動化統整並依據機率推算而給出的「最可能正確的」答案。因為無法驗證是否正確，ChatGPT在提問對話框下方也有小字提醒：「可能會犯錯。請核查重要資訊。」提醒使用者，盡信 AI 後果必須自負。
AI 幻覺既然是尚未被解決的問題，AI Overview 存在幻覺也不是奇怪的事。讓外界驚訝的是，AI Overview 的錯誤率實在高得匪夷所思， Google 已經測試 AI Overview 超過一年時間，在 OpenAI 推出聊天機器人 ChatGPT 後，作為佔據全球 9 成搜尋引擎市場的 Google，也在 2023 年 5 月推出搜尋生成體驗的測試版，Google 首席執行長桑達爾・皮查伊（Sundar Pichai）表示，在過去一年裡，Google 已回答了數十億個查詢。
那怎麼錯誤率還會如此高呢？
