送禮物 訂閱
<%if prop.topic_id !=0 %> <%/if%>
<%:prop.genus%> <%:~formatDate(prop.online_date, 'YYYY MMM DD' )%> <%:prop.title%>
<%:prop.realname%> <%:prop.realname%>
<%:prop.realname%>

<%:prop.realname%>

<%:prop.intro%>

add
新會員

<%:prop.email%>

add

<%:prop.title%>

 AI Overview 幻覺特別多, Google 的 AI 技術為什麼落後?

ISSUE #141

AI Overview 幻覺特別多, Google 的 AI 技術為什麼落後?

Jun 14, 2024

(圖片來自 - 達志影像)

<%:prop.realname%>
<%if prop.email %>

<%:prop.email%>

<%else %>

<%:prop.realname%>

<%:prop.intro%>

<%/if%>
已有閱讀權限

自 ChatGPT 推出後,對話式體驗與直觀的產出答覆方式讓搜尋引擎龍頭 Google 受到威脅。Google 在今年 5 月推出了 AI Overview(AI 概述)功能,使用者在搜尋引擎輸入問題後,AI Overview 會依據資料庫結果生成一個綜合性答案。但 AI Overview 各種荒謬答案顯示,Google 顯然還沒準備好回應 AI 時代的挑戰。

2021 年 ChatGPT 問世,透過自然語言處理能力生成類似人類的回應,使用者能更快速地獲得問題所需答案。與 Google 的關鍵字搜尋結果頁相比,ChatGPT 提供的對話式體驗更加直觀,這可能削弱使用者對 Google 的依賴。獨霸超過 12 年的搜尋引擎龍頭,第一次面對破壞式創新的威脅。

2024 年 5 月,Google 推出新功能 —— AI Overview —— 在 Google 搜尋引擎上詢問問題時,這個功能會針對所搜的資料生成一個綜合性答案,不需點擊多個連結就能快速獲得問題的答案。從使用情境來看,AI Overview 顯然是把 ChatGPT 的對話情境加到搜尋情境中。

然而,AI Overview 一推出就頻頻出錯,甚至比以往更快提供錯誤答案。

像是新墨西哥州聖達菲研究所的 AI 研究員梅蘭妮・米切爾(Melanie Mitchell)在 Google 上搜尋:美國有多少位穆斯林總統?

  • AI Overviews 回應:「美國有一位穆斯林總統,貝拉克・侯賽因・奧巴馬(Barack Hussein Obama)。」然而,奧巴馬其實是基督徒。

網友詢問 Google:做披薩但乳酪容易掉下來怎麼辦?

  • AI Overviews 建議:「醬汁添加約八分之一杯的膠水。」然而,膠水顯然不是正常食譜中會出現的可食用食材。

看似荒謬的答案並非 Google AI 編造,披薩加膠水的回答是來自 Reddit 使用者十多年前的留言,因為 AI 不懂人類的幽默,所以把這些不該納入資料庫的答案都列進來了。AI Overview 犯的荒謬錯誤還非常多,例如,言之鑿鑿的說一隻狗曾在國家籃球協會(NBA)、國家美式足球聯盟(NFL)打過球,以及蝙蝠俠是一名警察

AI 會犯錯早就是公開的祕密。ChatGPT 同樣是 AI 透過搜尋網路資料後,自動化統整並依據機率推算而給出的「最可能正確的」答案。因為無法驗證是否正確,ChatGPT在提問對話框下方也有小字提醒:「可能會犯錯。請核查重要資訊。」提醒使用者,盡信 AI 後果必須自負。

AI 幻覺既然是尚未被解決的問題,AI Overview 存在幻覺也不是奇怪的事。讓外界驚訝的是,AI Overview 的錯誤率實在高得匪夷所思, Google 已經測試 AI Overview 超過一年時間,在 OpenAI 推出聊天機器人 ChatGPT 後,作為佔據全球 9 成搜尋引擎市場的 Google,也在 2023 年 5 月推出搜尋生成體驗的測試版,Google 首席執行長桑達爾・皮查伊(Sundar Pichai)表示,在過去一年裡,Google 已回答了數十億個查詢。

那怎麼錯誤率還會如此高呢?

陪你從「科技+人文」視角,深入國際政經脈動

35元/週解鎖付費會員專屬內容

  • 成為付費會員,即可擁有:
  • ✓ 全站深度分析報導文章
  • ✓ 會員專屬 8 折活動報名優惠

已經是付費會員?登入繼續閱讀

王淳慧

王淳慧 / 研究員

編譯

張育寧

張育寧 / 總編輯

審訂

分享 Share シェア

facebooklinetwitterlinkedin

延伸閱讀 Read more

OpenAI 首席科學家蘇茨克維離職,AI 安全問題為何值得擔憂?

OpenAI 首席科學家蘇茨克維離職,AI 安全問題為何值得擔憂?

OpenAI 共同創辦人伊利亞・蘇茨克維(Ilya Sutskever),日前正式離開這間由他一手推上顛峰的公司。也許,自去年 11 月策動「政變」失敗,奧特曼重回執行長後,蘇茨克維就注定要離開。當擔心 AI 失控的「異議人士」,一個個離開業界,是否意味著人類已不打算踩下煞車,義無反顧地奔向未來?而對於 AI 安全性問題,這位當今最了解 AI 科技的傳奇人物說了什麼?還有什麼,他還沒說?

2024-05-29 09:14:00

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent