送禮物 訂閱
<%if prop.topic_id !=0 %> <%/if%>
<%:prop.genus%> <%:~formatDate(prop.online_date, 'YYYY MMM DD' )%> <%:prop.title%>
<%:prop.realname%> <%:prop.realname%>
<%:prop.realname%>

<%:prop.realname%>

<%:prop.intro%>

add
新會員

<%:prop.email%>

add

<%:prop.title%>

矽谷宗教戰爭(上):全面解析 AI 末日論背後的「有效利他主義」

矽谷宗教戰爭(上):全面解析 AI 末日論背後的「有效利他主義」

Jan 02, 2024

圖片來源 - Midjourney

<%:prop.realname%>
<%if prop.email %>

<%:prop.email%>

<%else %>

<%:prop.realname%>

<%:prop.intro%>

<%/if%>
已有閱讀權限

OpenAI 執行長山姆.奧特曼被開除又回歸的鬧劇,背後其實是矽谷科技圈「有效利他主義」和「有效加速主義」的宗教戰爭煙硝,AI 末日論和 AI 救世論、科技悲觀主義和科技樂觀主義的對立衝突浮上檯面。這場影響人類社會百年發展的科技價值戰,《旭時報》詳細梳理兩派立場的理念、歷史和發展,分上、下兩篇刊出。

上個月(2023 年 11 月)17 日,因 ChatGPT 而爆紅的新創公司 OpenAI 執行長山姆.奧特曼(Sam Altman)遭董事會突襲式解雇,總裁格雷格.布魯克曼(Greg Brockman)也被逐出董事會,隨後自行宣布辭職。在經歷投資人跳腳任命臨時執行長微軟接收奧特曼和布魯克曼董事會向最大競爭對手 Anthropic 尋求併購,以及超過 95 % 員工連署要求撤回決定否則集體辭職後,奧特曼在 22 日重回執行長寶座,OpenAI 董事會解散重組,結束這場為期五天的矽谷鬧劇

導致這場政變的原因,至今仍未明朗,但多家媒體都指出,OpenAI 董事會成員間早已存在嫌隙。至少三名董事會成員,包含首席科學家伊利亞.蘇茨克弗(Ilya Sutskever)、獨立董事塔莎.麥卡利(Tasha McCauley)和海倫.托納(Helen Toner),都擔憂隨著 AI 不斷進步,人類將失去對 AI 的掌控,在最糟的情況下,失控的超級 AI 將導致人類滅絕。他們認為應放慢 AI 的開發,將資源投入安全性研究,以確保科技不會反噬人類。

三名董事的保守態度,與奧特曼傾向快速發展、盡早實現「通用 AI」(artificial general intelligence)的路線發生衝突,進而導致了這次的 OpenAI 內鬥。

由於麥卡利和托納都與一個被稱作「有效利他主義」(effective altruism,簡稱 EA)的社會運動有關,奧特曼所代表的「快速行動,打破陳規」的矽谷創業精神,則在近期被冠以「有效加速主義」(effective accelerationism,簡稱 e/acc)之名,這場發生在當前 AI 革命最前線的衝突,正式將矽谷科技圈「有效利他主義」和「有效加速主義」的宗教戰爭,帶到了聚光燈底下

「EA vs. e/acc」代表的,是放緩或加速、控制或成長的抉擇,是 AI 末日論和 AI 救世論、科技悲觀主義和樂觀主義的對立。儘管加速主義似乎已贏下 OpenAI 這一局,兩派勢力的對抗,仍將繼續影響 AI 以及人類的未來與發展。

《旭時報》將詳細梳理兩派哲學的理念、歷史和發展,分上下兩篇刊出。在本篇中,我們將討論有效利他主義是如何從學院內的哲學思考,在短短十年間吸引大量人才和資金,成為全世界最有影響力的慈善運動。將於下週二(1 月 9 日)刊出的下篇,則聚焦於去年剛剛興起、被形容為「邪教」的有效加速主義陣營。通過全面解析這場「EA vs. e/acc」的矽谷宗教戰爭,我們想帶領您一同思考 AI 革命的未來。


EA:讓思考超越時空,行最大的善

陪你從「科技+人文」視角,深入國際政經脈動

35元/週解鎖付費會員專屬內容

  • 成為付費會員,即可擁有:
  • ✓ 全站深度分析報導文章
  • ✓ 會員專屬 8 折活動報名優惠

已經是付費會員?登入繼續閱讀

questionnaire questionnaire
questionnaire questionnaire
questionnaire questionnaire
吳政霆

吳政霆 / 研究員

採訪寫作

張育寧

張育寧 / 總編輯

審訂

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent