送禮物 訂閱
 AI Overview 幻覺特別多, Google 的 AI 技術為什麼落後?

AI Overview 幻覺特別多, Google 的 AI 技術為什麼落後?

Jun 14, 2024

(圖片來自 - 達志影像)

自 ChatGPT 推出後,對話式體驗與直觀的產出答覆方式讓搜尋引擎龍頭 Google 受到威脅。Google 在今年 5 月推出了 AI Overview(AI 概述)功能,使用者在搜尋引擎輸入問題後,AI Overview 會依據資料庫結果生成一個綜合性答案。但 AI Overview 各種荒謬答案顯示,Google 顯然還沒準備好回應 AI 時代的挑戰。

2021 年 ChatGPT 問世,透過自然語言處理能力生成類似人類的回應,使用者能更快速地獲得問題所需答案。與 Google 的關鍵字搜尋結果頁相比,ChatGPT 提供的對話式體驗更加直觀,這可能削弱使用者對 Google 的依賴。獨霸超過 12 年的搜尋引擎龍頭,第一次面對破壞式創新的威脅。

2024 年 5 月,Google 推出新功能 —— AI Overview —— 在 Google 搜尋引擎上詢問問題時,這個功能會針對所搜的資料生成一個綜合性答案,不需點擊多個連結就能快速獲得問題的答案。從使用情境來看,AI Overview 顯然是把 ChatGPT 的對話情境加到搜尋情境中。

然而,AI Overview 一推出就頻頻出錯,甚至比以往更快提供錯誤答案。


像是新墨西哥州聖達菲研究所的 AI 研究員梅蘭妮・米切爾(Melanie Mitchell)在 Google 上搜尋:美國有多少位穆斯林總統?

  • AI Overviews 回應:「美國有一位穆斯林總統,貝拉克・侯賽因・奧巴馬(Barack Hussein Obama)。」然而,奧巴馬其實是基督徒。

網友詢問 Google:做披薩但乳酪容易掉下來怎麼辦?

  • AI Overviews 建議:「醬汁添加約八分之一杯的膠水。」然而,膠水顯然不是正常食譜中會出現的可食用食材。

看似荒謬的答案並非 Google AI 編造,披薩加膠水的回答是來自 Reddit 使用者十多年前的留言,因為 AI 不懂人類的幽默,所以把這些不該納入資料庫的答案都列進來了。AI Overview 犯的荒謬錯誤還非常多,例如,言之鑿鑿的說一隻狗曾在國家籃球協會(NBA)、國家美式足球聯盟(NFL)打過球,以及蝙蝠俠是一名警察

AI 會犯錯早就是公開的祕密。ChatGPT 同樣是 AI 透過搜尋網路資料後,自動化統整並依據機率推算而給出的「最可能正確的」答案。因為無法驗證是否正確,ChatGPT在提問對話框下方也有小字提醒:「可能會犯錯。請核查重要資訊。」提醒使用者,盡信 AI 後果必須自負。

AI 幻覺既然是尚未被解決的問題,AI Overview 存在幻覺也不是奇怪的事。讓外界驚訝的是,AI Overview 的錯誤率實在高得匪夷所思, Google 已經測試 AI Overview 超過一年時間,在 OpenAI 推出聊天機器人 ChatGPT 後,作為佔據全球 9 成搜尋引擎市場的 Google,也在 2023 年 5 月推出搜尋生成體驗的測試版,Google 首席執行長桑達爾・皮查伊(Sundar Pichai)表示,在過去一年裡,Google 已回答了數十億個查詢。

那怎麼錯誤率還會如此高呢?

陪你從「科技+人文」視角,深入國際政經脈動

35元/週解鎖付費會員專屬內容

  • 成為付費會員,即可擁有:
  • ✓ 全站深度分析報導文章
  • ✓ 會員專屬 8 折活動報名優惠

已經是付費會員?登入繼續閱讀

questionnaire questionnaire
questionnaire questionnaire
questionnaire questionnaire
王淳慧

王淳慧 / 研究員

編譯

張育寧

張育寧 / 總編輯

審訂

分享 Share シェア

facebooklinetwitterlinkedin

延伸閱讀 Read more

OpenAI 首席科學家蘇茨克維離職,AI 安全問題為何值得擔憂?

OpenAI 首席科學家蘇茨克維離職,AI 安全問題為何值得擔憂?

OpenAI 共同創辦人伊利亞・蘇茨克維(Ilya Sutskever),日前正式離開這間由他一手推上顛峰的公司。也許,自去年 11 月策動「政變」失敗,奧特曼重回執行長後,蘇茨克維就注定要離開。當擔心 AI 失控的「異議人士」,一個個離開業界,是否意味著人類已不打算踩下煞車,義無反顧地奔向未來?而對於 AI 安全性問題,這位當今最了解 AI 科技的傳奇人物說了什麼?還有什麼,他還沒說?

May 29 2024

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent