送禮物 訂閱
<%if prop.topic_id !=0 %> <%/if%>
<%:prop.genus%> <%:~formatDate(prop.online_date, 'YYYY MMM DD' )%> <%:prop.title%>
<%:prop.realname%> <%:prop.realname%>
<%:prop.realname%>

<%:prop.realname%>

<%:prop.intro%>

add
新會員

<%:prop.email%>

add

<%:prop.title%>

訓練一個 AI 模型,耗電量相當於觀看 160 萬小時的 Netflix?

ISSUE #141

訓練一個 AI 模型,耗電量相當於觀看 160 萬小時的 Netflix?

May 21, 2024

2024 年 1 月 18 日,OpenAI 執行長 Sam Altman 出席在瑞士達沃斯舉行的第 54 屆世界經濟論壇年會。(圖片來自 - Reuters)

<%:prop.realname%>
<%if prop.email %>

<%:prop.email%>

<%else %>

<%:prop.realname%>

<%:prop.intro%>

<%/if%>
已有閱讀權限

AI 技術和環境永續背道而馳,這將是本世紀所有決策者最難應對的政治正確。生成式 AI 帶來了我們完全不知道的全球成本,AI 與能源之間的角力,逼得科技巨頭跨向能源創新領域,微軟投向核能、Google 投向綠電,巨頭們的領域展開愈來愈大了。

據《The Verge》報導,訓練一個像 GPT-3 的大型語言模型,大約需要消耗將近 1,300 兆瓦時的電力,相當於 130 個美國家庭的年度用電量。若觀看一小時 Netflix 大約需要 0.8 千瓦時的電力,那相當於觀看 1,625,000 小時的 Netflix,才會消耗掉與訓練 GPT-3 所需的相同電力量。

AI 科技令人驚艷,耗電量之高也令人驚訝。Google 的數據報告顯示,截至 2022 年,光是機器學習就已經佔過去三年 Google 總電力消耗的 15%。

OpenAI 每隔半年就釋出新的大型語言模型,用戶免費或每個月付 20 美元的費用,就能讓 ChatGPT 幫忙寫程式、做財務試算、寫企劃或是陪聊;然而,這些 AI 模型的運作其實正以每小時幾兆瓦的速度消耗龐大的電力,這些大量、不斷增加的耗能,正在造成更多的碳排放。

但在科技應用創新的政治正確面前,似乎沒有人——包含提供這些技術的公司本身——能準確地說出 AI 模型的實際能源成本是多少。從初期的訓練到後來的推理應用,AI 耗能像一個難以捉摸的黑洞,最終會把多少資源耗捲而去?因此造成多大的公共機會成本?沒人回答、隱憂重重。

AI 模型之所以消耗如此大量的能源,是因模型訓練的資料量龐大,加上模型本身的複雜性,以及使用者同時向 AI 下達多種指令。在訓練過程中,AI 模型根據大量範例和資料來學習,而訓練時間取決於資料量和模型的複雜性,模型越複雜、資料量越大,在訓練過程中所使用的能量就越多,也因為機器學習模型具有難以捉摸的可變性,以至於連最有能力製定使用規則的大公司,像是 Meta、微軟、OpenAI 等公司,都沒有相關耗能成本的資訊可以分享。

AI 訓練過程消耗的電力遠高於傳統的數據中心,而訓練模型卻只是整個過程的一部分。系統創建後,使用者將使用它來產生輸出,這個過程稱為「推理」,如我們在手機上詢問 ChatGPT 任何事,而這也需要電力,因為它需要全天候 24 小時待命,提供我們使用。隨著 AI 的普及,與日益強大的功能更新,AI 所消耗的電力可能超乎想像,許多公司在應用 AI 時,為了提高效率,不斷添加計算資源;一旦模型或硬體變得更加高效,人們就會使這些模型比以前更大,也更難被計算出耗能成本。

怎麼計算人工智慧有多耗電?

陪你從「科技+人文」視角,深入國際政經脈動

35元/週解鎖付費會員專屬內容

  • 成為付費會員,即可擁有:
  • ✓ 全站深度分析報導文章
  • ✓ 會員專屬 8 折活動報名優惠

已經是付費會員?登入繼續閱讀

王淳慧

王淳慧 / 研究員

編譯

張育寧

張育寧 / 總編輯

審訂

分享 Share シェア

facebooklinetwitterlinkedin

延伸閱讀 Read more

AI 生成的造勢內容,你買單嗎?AI 如何影響 2024 大選年

AI 生成的造勢內容,你買單嗎?AI 如何影響 2024 大選年

今年(2024 年)是全球大選年,除了台灣,全球有 48 個國家陸續舉辦各類選舉,並選出至少 20 位國家領袖。從 1 月的美國初選、台灣大選,到正在進行的印度大選,選舉已成為人工智慧熱潮的試驗場,許多 AI 新創因此獲得高估值,然而,AI 固然能提高生產力,卻也正加劇選舉社會的不信任感。

2024-05-15 09:00:00

科技巨頭 vs. 新創,AI 人才搶奪戰持續中

科技巨頭 vs. 新創,AI 人才搶奪戰持續中

在 AI 技術的競逐賽中,科技巨頭對高階技能的需求空前高漲,頂尖 AI 人才的數量卻相對較少,因此各大科技公司一直試圖挖走競爭對手的員工,其中一些公司還開出了令人瞠目結舌的高薪。不過,新創也握有吸引人才的優勢,是 AI人才的另一熱門選擇。

2024-05-13 09:20:00

ESG 的實質投入怎麼提高?把高階主管的薪資跟氣候目標掛鉤

ESG 的實質投入怎麼提高?把高階主管的薪資跟氣候目標掛鉤

極端氣候問題愈來愈劇烈,各國政府對氣候變化和可持續發展的關注日益增加,企業在經營中將環境、社會和治理(ESG)目標納入考量已成為一個趨勢。根據研究未來三年企業執行長(C-level)面臨最大的挑戰,有 42% 來自環境永續的推動,將 ESG 目標納入高階經理人薪酬計劃,不僅是為了回應法規的要求,可能也是企業立於不敗之地的重要舉措。

2024-05-07 11:43:00

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent