在上篇中,我們討論了有效利他主義如何由一種哲學和一場慈善運動,演變為 AI 領域最具影響力的組織運動。無論在矽谷或者華府,都有一群人大聲疾呼 AI 可能導致人類滅絕,我們應放緩腳步,直到找出方法,確保科技不會毀滅人類。
有效加速主義者對上述主張深惡痛絕。對 AI 末日論和所謂「減速主義者」(decel)的恨,團結了這群科技狂熱者,造就這個矽谷「邪教」的興起。在本篇中,我們首先將追隨有效加速主義者的思路,嘗試理解他們「科技不仁,以萬物為芻狗」的哲學;接著分析這個活躍於 X 的社群,是如何靠著口號和迷因來傳播思想、區分敵我以鞏固團結。文章最後,則以對「EA vs. e/acc」宗教戰爭的反思作結,提出中庸之道才是思考 AI 革命的正確心態。
e/acc:讓思考超越物種,在星際間散播意識之光
「人類的首要目標是保存意識之光。」
“The overarching goal for humanity is to preserve the light of consciousness.”
這是「有效加速主義宣言」的第一條。這份「宣言」目前在網路上能找到的版本,是由四位匿名作者 2022 年 10 月 31 日發表於《有效加速主義電子報》(e/acc newsletters)。這段話底下,有張太空探索公司 SpaceX 執行長馬斯克 2018 年 6 月的 X 截圖,寫道:「這就是我們必須藉由成為太空文明並將生命拓展到其他星球,來保存意識之光的原因。」
根據《Inverse》雜誌的報導,馬斯克當時是在回應牛津大學人類未來研究所(Future of Humanity Institute)的一篇論文。論文指出,根據某些極端的計算結果,有 30 % 的可能性浩瀚銀河中不存在其他生命形式。換言之,人類是宇宙中唯一擁有獨特的「意識之光」的存在。為此,我們(或更準確地說,馬斯克和他的公司)必須離開地球、飛向宇宙,盡一切可能地擴散以保存文明。
有效加速主義繼承了馬斯克的擴張意志和科技進步主義。然而,他們又往前推了一大步,將思考推到了物種之外、後人類的未知領域。同篇「宣言」的第四條寫道:
「科技資本能引領意識的下一次進化,創造不可想像的下一代生命形式和矽基意識。」
“Technocapital can usher in the next evolution of consciousness, creating unthinkable next-generation lifeforms and silicon-based awareness.”
作為碳基生命,人類並非文明唯一可能的守護者。在未來,當通用人工智能 AGI(artificial general intelligence)能夠繼承人類智慧並進一步發展,完成生命形式的跨型態轉換,祂們很可能才是「意識之光」更好的載體。人類的未來,也許與人類無關。
「究竟什麼人,會選擇支持一種讓機器接管文明的思想,不在乎人類死活?」若你有這樣的疑問,有效加速主義信徒會告訴你:我們並沒有「選擇」的餘地,科技發展、生命形式的演化都是宇宙的必然,是我們必須服膺的真理。換言之,他們相信最終由超級 AI 接管文明是必然的宿命。這個無可置疑的真理,建立在一系列看似「科學」的推理上。
推理的基礎,或者說有效加速主義者的「信仰」,是熱力學第二定律。這條定律告訴我們,在自然過程中,宇宙中熵(即系統的無序、混亂程度)的總量總是趨向於增加,導致宇宙偏好容易複製的生命形式。而一種生物容易複製的程度,取決於牠適應環境的能力;適應環境的能力,又和群體內部的變異度成正比。一句話總結,就是「多樣性有利於物種適應環境,提高生存能力,從而受宇宙青睞」。
科技和資本主義,在有效加速主義者的眼中,是提高人類變異度,增加社會、文明複雜性的重要動力。「科技資本」的力量,不僅推動了人類文明的發展,也加速了整個宇宙熵增的過程。在這種觀點下,科技進步和資本擴張有著宇宙自然法則的地位,是不可侵犯、無法逆轉的歷史進程。試圖抵抗這股力量是愚蠢的,作為人類,我們唯一能做的就是讚嘆和擁抱科技發展,加入這股不可抗拒的歷史洪流。
如果您和我們一樣,並沒有被以上論點說服,那請您接著閱讀《旭時報》記者和有效加速主義機器人的對話。