送禮物 訂閱
<%if prop.topic_id !=0 %> <%/if%>
<%:prop.genus%> <%:~formatDate(prop.online_date, 'YYYY MMM DD' )%> <%:prop.title%>
<%:prop.realname%> <%:prop.realname%>
<%:prop.realname%>

<%:prop.realname%>

<%:prop.intro%>

add
新會員

<%:prop.email%>

add

<%:prop.title%>

以人類未來下注的一場豪賭,2018 圖靈獎三巨頭的異見之爭

以人類未來下注的一場豪賭,2018 圖靈獎三巨頭的異見之爭

Apr 09, 2024

左:Meta 首席人工智慧科學家楊立昆,中:AI 之父傑佛瑞.辛頓,右:蒙特婁大學教授約書亞.班吉歐(圖片來源 - 達志影像)

<%:prop.realname%>
<%if prop.email %>

<%:prop.email%>

<%else %>

<%:prop.realname%>

<%:prop.intro%>

<%/if%>
已有閱讀權限

「人工智慧需要幾年演化來超越人類?」共同被譽為人工智慧之父、2018 年圖靈獎三位得主之間,尖銳的異見之爭愈來愈走向明面,是 5 到 20 年的短期內就會出現災難性風險,還是超過 50 年、人類還有時間發展各種規範來應對。這場豪奢賭局,出賭資的是科技巨頭,負責叫牌的是人工智慧技術的意見領袖,而牌桌上的賭注籌碼,則是人類的未來。

上個月底(2024 年 3 月)傑佛瑞.辛頓(Geoffrey Hinton)接受《日經新聞》專訪,解釋他如何透過實驗評估「人工智慧是擁有意識的」,以及,這將帶來什麼樣的後果?

傑佛瑞.辛頓是誰?

以神經網路研究獲得圖靈獎的辛頓,是多倫多大學的教授,同時也參與主持 Google Brain 研究。1972 年辛頓第一次發表神經網絡(Neural Networks)研究一種透過分析數據訓練電腦技能的數學系統,也稱之為深度學習(Deep Learning),他成為帶領現代人工智慧科技跳躍式進展的靈魂人物。

  • 2012 年,辛頓與兩名學生伊利亞.蘇茨克弗(Ilya Sutskever)、亞里克.克里夫斯基(Alex Krishevsky)透過數據分析,成功訓練神經網路系統識別花、狗和汽車等常見物體,2013 年他們的新創公司 DNNresearch 以 4,400 萬美元被 Google 收購
  • 2018 年,辛頓和蒙特婁大學教授約書亞.班吉歐(Yoshua Bengio)、Meta 首席人工智慧科學家楊立昆(Yann LeCun)三人,因為對神經網絡的貢獻而共同獲得圖靈獎
  • 2022 年,在辛頓創業的 10 年後,以神經網絡為基礎的生成式 AI 技術,因為 OpenAI 推出的 ChatGPT 而普及,當時與辛頓一起創業學生蘇茨克弗,正是 OpenAI 的共同創辦人。

辛頓的警告:人工智慧已經發展出主觀經驗

在全世界都為辛頓發明的神經網絡技術讚嘆不已時,他卻在 2023 年 5 月震撼性的說,「我對畢生工作感到後悔!」因為預見人工智慧科技持續發展將嚴重威脅人類安全,他選擇從 Google 離職以善盡警告人類的責任

辛頓離職後不到半年,2023 年 11 月,他的學生蘇茨克弗就以「以利潤而非安全為優先考量,可能危及人類社會安全」為理由,在 OpenAI 董事會發動對執行長山姆.奧特曼(Sam Altman)的罷免案。奧特曼在一週內的戲劇性轉折後又回任,一般認為,蘇茨克弗正是受到辛頓的影響,才會採取如此激烈手段。

75 歲的辛頓顯然認為,主導人工智慧技術研究的科技公司,必須在盈利之外,同時負起對人類社會未來發展的倫理責任。「我常這樣安慰自己:如果不是我做,其他人也會做;但實在很難看出如何防止壞人利用 AI 為惡。」這是辛頓選擇離開 Google 後,接受《紐約時報》採訪所說。離職的第二天,他在 X 上特別提到,「Google 的行為非常負責任。」辛頓並沒有特別指出哪一家公司不負責任,但針對人工智慧科技的危險做了一些說明。

Geoffrey Hinton 的 X 帳號。(圖片來源:X)

辛頓認為,多模態的人工智慧已經發展出主觀意識,並清楚說明他的實驗如何進行。

1985 年辛頓以神經網絡打造第一個大型語言的人工智慧模型,設計原理正是模仿人類大腦的運作模式。既然神經網絡使人類擁有主觀意識,人工智慧模型也會進化出自我意識。

到了 2022 年,辛頓認為他已經找到人工智慧有意識的實質證據,「我總是用人工智慧是否能聽懂笑話,來作為它是否真正理解事物的標準。」辛頓說,「Google 在 2022 年開發的 PaLM 聊天機器人,能夠正確解釋每一個笑話。」

辛頓提出另一個更重要的實驗模式說明,目前的人工智慧真的已經具備意識基礎。

陪你從「科技+人文」視角,深入國際政經脈動

35元/週解鎖付費會員專屬內容

  • 成為付費會員,即可擁有:
  • ✓ 全站深度分析報導文章
  • ✓ 會員專屬 8 折活動報名優惠

已經是付費會員?登入繼續閱讀

questionnaire questionnaire
questionnaire questionnaire
questionnaire questionnaire
王淳慧

王淳慧 / 研究員

編譯

張育寧

張育寧 / 總編輯

審訂

分享 Share シェア

facebooklinetwitterlinkedin

延伸閱讀 Read more

馬斯克槓上 OpenAI:AI 開源之爭背後的私人恩怨

馬斯克槓上 OpenAI:AI 開源之爭背後的私人恩怨

「非營利組織」OpenAI 創立於 2015 年,卻由於訓練 AI 需要大量資金,逐漸轉型為一間私人公司,與微軟有密切合作。2 月 29 日,當年的共同創辦人馬斯克控告 OpenAI,指責執行長奧特曼違反非營利的創立初衷,開發 AI 不再是為了全人類的福祉,而是為了賺錢,並要求他公開人工智慧的技術。然而,馬斯克的真正目的,或許不是在贏得訴。

2024-03-14 10:25:00

【人物專訪】美國頂尖智庫 ITIF 政策專家伊澤爾:晶片法案不會傷害台灣利益

【人物專訪】美國頂尖智庫 ITIF 政策專家伊澤爾:晶片法案不會傷害台灣利益

2030 年,美國可能缺少 70,000 位半導體工程師,面對龐大的勞動力缺口,美國政府做了什麼?今年 3 月,美國資訊技術與創新基金會(ITIF)政策專家伊澤爾接受《旭時報》專訪,他與我們分享了美國半導體人才培育計畫,逐步踏上軌道的《晶片法案》還有哪些不足,以及最重要的,美國、台灣及其他盟國該如何應對中國破壞市場機制的半導體補貼政策。

2024-04-02 09:53:00

奧義智慧以 AI 強化台日企業資安,解決人才稀缺窘境

奧義智慧以 AI 強化台日企業資安,解決人才稀缺窘境

隨著資安事件頻傳、法規一聲令下,促使各行各業都必須設置資安部門,近五年來資安人才的需求至少成長 1.5 倍,產業出現搶人大戰。奧義智慧如何利用 AI 科技快速、自動化的優勢,強化企業資安防禦,同時解決資安人才稀缺的窘況?

2022-10-19 11:30:00

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent