上個月(2023 年 11 月)17 日,因 ChatGPT 而爆紅的新創公司 OpenAI 執行長山姆.奧特曼(Sam Altman)遭董事會突襲式解雇,總裁格雷格.布魯克曼(Greg Brockman)也被逐出董事會,隨後自行宣布辭職。在經歷投資人跳腳、任命臨時執行長、微軟接收奧特曼和布魯克曼、董事會向最大競爭對手 Anthropic 尋求併購,以及超過 95 % 員工連署要求撤回決定否則集體辭職後,奧特曼在 22 日重回執行長寶座,OpenAI 董事會解散重組,結束這場為期五天的矽谷鬧劇。
導致這場政變的原因,至今仍未明朗,但多家媒體都指出,OpenAI 董事會成員間早已存在嫌隙。至少三名董事會成員,包含首席科學家伊利亞.蘇茨克弗(Ilya Sutskever)、獨立董事塔莎.麥卡利(Tasha McCauley)和海倫.托納(Helen Toner),都擔憂隨著 AI 不斷進步,人類將失去對 AI 的掌控,在最糟的情況下,失控的超級 AI 將導致人類滅絕。他們認為應放慢 AI 的開發,將資源投入安全性研究,以確保科技不會反噬人類。
三名董事的保守態度,與奧特曼傾向快速發展、盡早實現「通用 AI」(artificial general intelligence)的路線發生衝突,進而導致了這次的 OpenAI 內鬥。
由於麥卡利和托納都與一個被稱作「有效利他主義」(effective altruism,簡稱 EA)的社會運動有關,奧特曼所代表的「快速行動,打破陳規」的矽谷創業精神,則在近期被冠以「有效加速主義」(effective accelerationism,簡稱 e/acc)之名,這場發生在當前 AI 革命最前線的衝突,正式將矽谷科技圈「有效利他主義」和「有效加速主義」的宗教戰爭,帶到了聚光燈底下。
「EA vs. e/acc」代表的,是放緩或加速、控制或成長的抉擇,是 AI 末日論和 AI 救世論、科技悲觀主義和樂觀主義的對立。儘管加速主義似乎已贏下 OpenAI 這一局,兩派勢力的對抗,仍將繼續影響 AI 以及人類的未來與發展。
《旭時報》將詳細梳理兩派哲學的理念、歷史和發展,分上下兩篇刊出。在本篇中,我們將討論有效利他主義是如何從學院內的哲學思考,在短短十年間吸引大量人才和資金,成為全世界最有影響力的慈善運動。將於下週二(1 月 9 日)刊出的下篇,則聚焦於去年剛剛興起、被形容為「邪教」的有效加速主義陣營。通過全面解析這場「EA vs. e/acc」的矽谷宗教戰爭,我們想帶領您一同思考 AI 革命的未來。