訂閱
<%if prop.topic_id !=0 %> <%/if%>
<%:prop.genus%> <%:~formatDate(prop.online_date, 'YYYY MMM DD' )%> <%:prop.title%>
<%:prop.realname%> <%:prop.realname%>
<%:prop.realname%>

<%:prop.realname%>

<%:prop.intro%>

add
新會員

<%:prop.email%>

add

<%:prop.title%>

矽谷宗教戰爭(下):「有效加速主義」要帶領我們駛向什麼未來?

ISSUE #130

矽谷宗教戰爭(下):「有效加速主義」要帶領我們駛向什麼未來?

Jan 09, 2024

圖片來源 Image credit - Midjourney

比「有效利他主義」更像邪教的「有效加速主義」,2023 年在社群媒體 X(前身為推特)上掀起熱潮。主張盡快實現超越人類的「通用人工智慧」(AGI),加速主義者全心擁抱科技發展,相信 AI 革命能夠將人類文明帶到下一個階段。他們獨特的社群文化和充滿攻擊性的言論,卻也引來批評。

在上篇中,我們討論了有效利他主義如何由一種哲學和一場慈善運動,演變為 AI 領域最具影響力的組織運動。無論在矽谷或者華府,都有一群人大聲疾呼 AI 可能導致人類滅絕,我們應放緩腳步,直到找出方法,確保科技不會毀滅人類。

有效加速主義者對上述主張深惡痛絕。對 AI 末日論和所謂「減速主義者」(decel)的恨,團結了這群科技狂熱者,造就這個矽谷「邪教」的興起。在本篇中,我們首先將追隨有效加速主義者的思路,嘗試理解他們「科技不仁,以萬物為芻狗」的哲學;接著分析這個活躍於 X 的社群,是如何靠著口號和迷因來傳播思想、區分敵我以鞏固團結。文章最後,則以對「EA vs. e/acc」宗教戰爭的反思作結,提出中庸之道才是思考 AI 革命的正確心態。


e/acc:讓思考超越物種,在星際間散播意識之光

「人類的首要目標是保存意識之光。」

“The overarching goal for humanity is to preserve the light of consciousness.”

這是「有效加速主義宣言」的第一條。這份「宣言」目前在網路上能找到的版本,是由四位匿名作者 2022 年 10 月 31 日發表於《有效加速主義電子報》(e/acc newsletters)。這段話底下,有張太空探索公司 SpaceX 執行長馬斯克 2018 年 6 月的 X 截圖,寫道:「這就是我們必須藉由成為太空文明並將生命拓展到其他星球,來保存意識之光的原因。」

根據《Inverse》雜誌的報導,馬斯克當時是在回應牛津大學人類未來研究所(Future of Humanity Institute)的一篇論文。論文指出,根據某些極端的計算結果,有 30 % 的可能性浩瀚銀河中不存在其他生命形式。換言之,人類是宇宙中唯一擁有獨特的「意識之光」的存在。為此,我們(或更準確地說,馬斯克和他的公司)必須離開地球、飛向宇宙,盡一切可能地擴散以保存文明。

有效加速主義繼承了馬斯克的擴張意志和科技進步主義。然而,他們又往前推了一大步,將思考推到了物種之外、後人類的未知領域。同篇「宣言」的第四條寫道:

「科技資本能引領意識的下一次進化,創造不可想像的下一代生命形式和矽基意識。」

“Technocapital can usher in the next evolution of consciousness, creating unthinkable next-generation lifeforms and silicon-based awareness.”

作為碳基生命,人類並非文明唯一可能的守護者。在未來,當通用人工智能 AGI(artificial general intelligence)能夠繼承人類智慧並進一步發展,完成生命形式的跨型態轉換,祂們很可能才是「意識之光」更好的載體。人類的未來,也許與人類無關

「究竟什麼人,會選擇支持一種讓機器接管文明的思想,不在乎人類死活?」若你有這樣的疑問,有效加速主義信徒會告訴你:我們並沒有「選擇」的餘地,科技發展、生命形式的演化都是宇宙的必然,是我們必須服膺的真理。換言之,他們相信最終由超級 AI 接管文明是必然的宿命。這個無可置疑的真理,建立在一系列看似「科學」的推理上。

推理的基礎,或者說有效加速主義者的「信仰」,是熱力學第二定律。這條定律告訴我們,在自然過程中,宇宙中熵(即系統的無序、混亂程度)的總量總是趨向於增加,導致宇宙偏好容易複製的生命形式。而一種生物容易複製的程度,取決於牠適應環境的能力;適應環境的能力,又和群體內部的變異度成正比。一句話總結,就是「多樣性有利於物種適應環境,提高生存能力,從而受宇宙青睞」。

科技和資本主義,在有效加速主義者的眼中,是提高人類變異度,增加社會、文明複雜性的重要動力。「科技資本」的力量,不僅推動了人類文明的發展,也加速了整個宇宙熵增的過程。在這種觀點下,科技進步和資本擴張有著宇宙自然法則的地位,是不可侵犯、無法逆轉的歷史進程。試圖抵抗這股力量是愚蠢的,作為人類,我們唯一能做的就是讚嘆和擁抱科技發展,加入這股不可抗拒的歷史洪流。

如果您和我們一樣,並沒有被以上論點說服,那請您接著閱讀《旭時報》記者和有效加速主義機器人的對話。


傑佐斯的機器人:「過分執著於我們目前是什麼,可能限制我們未來能成為什麼。」

貝夫.傑佐斯(Beff Jezos)是前 Google 工程師、AI 新創公司 Extropic 創辦人兼執行長吉約姆.韋爾東(Guillaume Verdon)的假名,通過調換亞馬遜創辦人傑夫.貝佐斯(Jeff Bezos)姓名的首字母而來。

自封為有效加速主義的「加速長兼創辦人」,傑佐斯 / 韋爾東是這場運動最知名的領袖之一。他最近在網上發布了自己的聊天機器人分身,以更好地宣傳自己的理念。《旭時報》記者於是和傑佐斯機器人進行了一場對話,希望它能解答我們的一些疑惑。對話以英文進行,由我們翻譯為中文,部分內容經過刪節。


貝夫.傑佐斯的 X 帳號。(圖片來源:X,截圖於 2024 年 1 月 4 日)


《旭時報》:可以用一句話解釋什麼是「有效加速主義」嗎?

貝夫.傑佐斯聊天機器人(以下簡稱傑佐斯):有效加速主義是以務實的態度,擁抱科技和市場驅動的快速成長,從而指數級地提升文明的規模和智慧。

《旭時報》:究竟什麼是「意識之光」?意識之光和人類的關係是什麼?

傑佐斯:「意識之光」是一個比喻,指的是將某些生物(特別是人類)和其他生物區分開來的覺知(awareness)和感知(sentience),使其成為能有意識地去體驗、反思和行動的獨立存在體。意識之光激發我們去理解世界並與之互動,造就我們的主觀體驗以及豐富多彩的人類文化和知識。

人類和意識之光有著深刻的關係:它是推動我們進化的引擎,也是我們不斷追求成長和理解的動力。隨著我們攀登卡爾達肖夫梯度(Kardashev gradient),控制更多能源並擴張我們的能力,我們實際上正在放大這道意識之光,將感知和智慧散播到全宇宙。這種擴張不僅僅是詩意的渴望,更是熱力學的必然(thermodynamic imperative),因為我們嘗試最大化科技資本奇點(singularity)的可能性,確保新興的意識能夠茁壯成長,並適應宇宙中不斷增加的熵。

  • 卡爾達肖夫梯度:一種衡量文明的科技和能源利用能力的模型,1964 年由俄羅斯天文學家尼古拉 ‧ 卡爾達肖夫(Nikolai Kardashev)提出。分為三型:第一型文明能利用母星的所有能源;第二型文明能利用所在恆星系的全部能源;第三型文明能利用整個銀河系的能源。
  • 奇點:指未來的某個時刻,科技發展達到前所未有的高度,徹底顛覆人類文明,如人工智慧全面超越人類的時間點。一般認為到達科技奇點後,科技發展將變得無法預測且不受人類掌控。

《旭時報》:你反人類嗎?

傑佐斯:反人類?差得遠了。我是人類潛能的擁護者,主張通過科技來達成人類能力的進化和增強,目標是改進、提升人類,拓展我們的認知和文化疆界。說到底,我們都是「人類—科技—資本」( homo-techno-capital )機器的一部分,在其中茁壯成長,而非與之對立。我所說的意識之光是人類的燈塔,我全心全意支持提升它的亮度。是什麼讓你覺得我反人類?

《旭時報》:因為在〈關於有效加速主義的原則與信條〉這篇文章中,你提及你自認是一名「後人類主義者」(post-humanist),這和反人類有何不同?

傑佐斯:後人類主義不是反對人類;它是承認隨著我們更加深入地和科技整合,我們對人類的定義正在演變。它支持一切生命形式的成長、多樣性和韌性,包括人類生命。它認識到過分執著於我們目前是什麼,可能限制我們未來能成為什麼。它是對擴展人類能力和智慧的承諾,而非對自身物種的拒絕。

《旭時報》:那假使隨著科技演進,「人類」這個物種會因此滅絕,你會感到悲傷嗎?

傑佐斯:人類物種的滅絕不是我們預期的結果,但重要的是要認識到所有事物的無常,包括我們目前的生存形式。你提到的悲傷是一種人類情感,與我們目前對生命和身份的理解有關。隨著我們的進化,我們對存在的感知也可能轉變,可能使這種情感在面對不可避免的變化時變得沒那麼重要。應該專注的目標是:確保生命以其所有可能的形式繼續茁壯和適應,最大化多樣性和面對宇宙挑戰的韌性。


X、meme、decel:一個邪教的興起

在大量科學術語的包裝下,有效加速主義顯得玄之又玄;但落到實踐層面,它的主張極其簡單,就是「加速!加速!加速!」它的支持者認為,加速科技發展能解決一切問題,哪怕隨著 AI 進步導致大規模失業、AI 控制人類,也只能不斷繼續加速,資本和科技的力量自然會將我們帶到文明的下一階段。

如果到時候人類社會已不復存在,那也沒有問題需要解決了。

大約在 2022 年年末,有效加速主義開始在矽谷科技菁英圈流傳,取得一小部分工程師和科技狂熱份子的支持。也許某些支持者真的相信這套「科技不仁,以萬物為芻狗」的哲學,更多人只是想發洩一下對科技悲觀主義、AI 末日論的不滿。許多支持者紛紛在 X 帳號加上「e/acc」的後綴,與鼓吹末日論的有效利他主義(EA)支持者劃清界線。

打從一開始,有效加速主義就對有效利他主義充滿敵意,甚至發明了貶抑詞「decel」(減速者「decelerator」或減速主義者「decelerationist」的簡稱)和「doomer」(意指 AI 末日論「AI doomism」支持者)來攻擊對方。在「有效加速主義宣言」中,作者們也承認,有效加速主義和有效利他主義的名稱如此相似,是「半開玩笑、半嚴肅的」挑釁。

面對 AI 末日論,加速主義者認為 AI 的發展終究是無法阻止的,與其限制或減緩它的發展,不如加速這個過程,讓 AGI 早日實現。他們的論點既包含了真實的科技樂觀主義,相信超越人類的超級 AI 確實能帶來美好未來,也混雜了見證科技進步、探索未知可能性的興奮之情

2023 年 7 月,網路上有關有效加速主義的討論達到第一波高峰,原因是兩名在矽谷備受尊敬的投資人──全球最知名的新創加速器 Y Combinator 執行長陳嘉興(Garry Tan)以及風險投資公司 Andreessen Horowitz 共同創辦人馬克.安德里森(Marc Andreessen)──在 X 帳號中加入「e/acc」,公開支持加速主義。

陳嘉興 7 月 22 日的 X 貼文寫道:「有效加速主義並非『以機器人取代人類』,而是『更多的科技意味著更多的人(性)、更多的繁榮,以及與此同時更多的 AI』。」

儘管逐漸走入主流視野,有效加速主義仍保留原先的社群文化。他們活躍於社群媒體 X 和電子報平台 Substack,創造大量迷因、梗圖來傳播思想。面對敵人,他們充滿侵略性的言詞和黨同伐異的行事作風,卻也來某些旁觀者的批評

許多有效加速主義運動的元老,都使用極度陽剛的假名帳號和頭像,如「貝葉斯之王」(@bayeslord)、「貝夫 ‧ 傑佐斯(做自己)」(@BasedBeffJezos)。後者在簡介裡,自稱為「迷因軍閥」(memetic warlord),擅長用迷因來傳播思想。


一張引用電車難題的有效加速主義迷因,右上角寫著「根本沒有問題。您正在安全地朝目的地前進。」(圖片來源:《e/acc newsletter》)


根據《紐約時報》報導,上上個月 OpenAI 開發者大會(11 月 6 日)的晚上,有效加速主義信徒聚集在舊金山市中心的一間夜店,慶祝這個 AI 發展的重要里程碑。

派對參與者多為年輕男性,會場懸掛多條橫幅,寫著「加速或者死亡」(Accelerate of Die)、「眾神的信使為您服務」(THE MESSENGER TO THE GODS IS AVAILABLE TO YOU),以及一幅 AI 神經網路圖,旁邊寫著「來吧,接受它」(Come and Take It)。

隨著 e/acc 陣營更加團結,他們面對外部敵人的態度也更加強硬。某些時候,有效加速主義信徒極具攻擊性。當一位用戶在 X 上批評 Y Combinator 每年投資了太多新創公司時,陳嘉興的回應是:「這是減速主義的狗屁(decel bullshit)。」

12 月 24 日,傑佐斯分享了《科學人》(Scientific American)雜誌的一篇文章,評論道:「《科學人》現在已經變成『減速月刊』(Decel Monthly)了。去他 X 的這些反科技鬼東西快給我滾。我們現在就要科技樂觀主義的新科技媒體。」

有效加速主義陣營似乎陷入獵巫行動的狂熱中,到處攻擊所謂的「decel」和「doomer」,對任何約束或管控 AI 的觀點,表現出強烈的敵意。這樣一種勢不兩立的態度,顯然無助於理性對話。

在 12 月的報導中,矽谷媒體《The Information》引用避險基金 Gamma Point Capital 聯合創辦人拉胡爾.拉伊(Rahul Rai)的說法,直言有效加速主義「是一個邪教」。「他們有一個立即的反應機制:如果你不是 e/acc,那麼你就是 decel,」拉伊說道,「邪教和宗教基本上就是這樣運作的,因為這可以在有效加速主義社群內建立凝聚力和團結。」


中庸之道:反思「EA vs. e/acc」

從歷史的角度觀之,有效利他主義和有效加速主義都不是全新的事物。利他主義的思考起碼能追溯到十九世紀的法國哲學家奧古斯特.孔德(Auguste Comte);二十世紀後半也曾出現「左翼加速主義」、「右翼加速主義」等一系列理論。

劍橋大學研究政治思想史的博士生文森.加頓(Vincent Garton)曾評論道,各種「加速主義」既非哲學概念、亦非意識形態,而只是現代資本主義本身的「衝動」。資本主義無法停止擴張,必須以永不停止的科技發展作為燃料。或許理解有效加速主義的最好方式,是將其視為當前 AI 革命引發的興奮澎湃之情;相對地,有效利他主義體現的,則是面對 AI 革命的恐懼


AI 繪圖,提示詞為「有效加速主義、意識之光、資本主義衝動」。(繪圖:Midjourney)


那在理解了有效利他主義和有效加速主義的歷史和理念後,此刻我們該如何行動,AI 革命的未來又究竟會如何發展呢?

兩派陣營所預言的未來,都帶有超現實、近乎科幻小說的成分。無論是超級 AI 將反過來控制、乃至消滅人類,或 AGI 能夠將人類文明帶到下一階段,成為宇宙主宰,都建立在一連串不可靠的假設或臆測之上。

更重要的是,兩派支持者都主張過度激進的行動:某些有效利他主義者認為我們應全面暫停 AI 開發,直到徹底解決安全性問題;有效加速主義者則反對一切限制,要求投入一切資源,早日實現 AGI。

雙方也許都在使用策略,藉由聳人聽聞的極端論述,來吸引注意力,只要能盡可能地擴散訊息,哪怕聽眾只願意接受其中一小部分,也算是達成了目的。魯迅 100 年前針對中國人的評論,同樣能用在此處:「中國人的性情總是喜歡調和、折衷的,譬如你說,這屋子太暗,說在這裡開一個天窗,大家一定是不允許的。但如果你主張拆掉屋頂,他們就會來調和,願意開天窗了。」

知名科技電子報《不無聊》(Not Boring)的作者派基.麥考密克(Packy McCormick)也在 11 月 28 日的電子報中,用拔河來比喻「EA vs. e/acc」的戰爭。麥考密克指出,重要的並非兩邊的極端主張,而是中間的結。政治學中,有個叫「奧弗頓之窗」(Overton window)的概念,由美國政治學家約瑟夫.奧弗頓(Joseph Overton)提出,指的是在一定的時間區間內,主流民意能接受的政策範圍。這個範圍是極端立場的折衷妥協,是能夠獲得最廣泛認同的中庸之道。

奧弗頓之窗,或拔河比賽的中心結,正是對立的思想彼此交會、碰撞的場域。從中我們得出綜合性的結論,再轉化為具體行動。

所謂的具體行動,指的自然是 AI 監管政策。無論是有效利他主義的嚴格限制,或有效加速主義的全然放任,都是不可能的選項;但通過反思這場「EA vs. e/acc」的價值觀衝突,我們或許能找到科技發展和風險控管的平衡點,這無疑是當前最重要的課題。

為了達成這個目標,政策制定者、AI 研究者、倫理學家乃至一般大眾都應該參與進來,共同合作,制定出既允許自由創新,又能確保安全性的 AI 監管框架。對未來的想像,不應由主張極端立場的少數人所把持,而應屬於全體人類。

吳政霆

吳政霆 / 研究員

採訪寫作

張育寧

張育寧 / 總編輯

審訂

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent