送禮物 訂閱
<%if prop.topic_id !=0 %> <%/if%>
<%:prop.genus%> <%:~formatDate(prop.online_date, 'YYYY MMM DD' )%> <%:prop.title%>
<%:prop.realname%> <%:prop.realname%>
<%:prop.realname%>

<%:prop.realname%>

<%:prop.intro%>

add
新會員

<%:prop.email%>

add

<%:prop.title%>

AI 生成的造勢內容,你買單嗎?AI 如何影響 2024 大選年

ISSUE #140

AI 生成的造勢內容,你買單嗎?AI 如何影響 2024 大選年

May 15, 2024

2024 年 3 月 31 日,印度總理莫迪的支持者在參加印度密拉特舉行競選集。(圖片來自 - 達志影像)

<%:prop.realname%>
<%if prop.email %>

<%:prop.email%>

<%else %>

<%:prop.realname%>

<%:prop.intro%>

<%/if%>
已有閱讀權限

今年(2024 年)是全球大選年,除了台灣,全球有 48 個國家陸續舉辦各類選舉,並選出至少 20 位國家領袖。從 1 月的美國初選、台灣大選,到正在進行的印度大選,選舉已成為人工智慧熱潮的試驗場,許多 AI 新創因此獲得高估值,然而,AI 固然能提高生產力,卻也正加劇選舉社會的不信任感。

人工智慧是從什麼時候開始滲入選舉裡的?也許可以從今年年初講起。

2024 年 1 月,新罕布夏州(State of New Hampshire)初選前夕,許多民主黨的選民接到了機器人電話,倡導選民別在 1 月 23 日的新罕布夏州總統初選中支持喬・拜登,這通電話以拜登常使用的口號—— What a bunch of malarkey ——作為結束。

整通語音內容疑點重重,讓支持拜登的選民感到困惑:這真的是來自官方嗎?

事實上,拜登總統的名字並未出現在新罕布夏州競選的選票上。這是因為在愛荷華州黨團會議後,拜登和民主黨決定取消新罕布夏州作為總統初選「全國第一站」的傳統,把首場初選改在南卡羅來納州舉行,以此鼓勵當地非洲裔選民出來投票。但以「不自由,毋寧死」(Live Free or Die)作為州格言的新罕布夏州,選擇違背民主黨安排,繼續進行投票。因此,這次新罕布夏州投票將不會產生任何代表,在整個提名過程中僅具象徵意義。

而儘管機器人電話中的聲音聽起來像是拜登總統的聲音,但經過司法部長約翰・福爾梅拉(John Formella)調查後,這則電話的音頻並非總統本人,深度偽造(Deepfake)的源頭,追溯到了專門提供機器人電話和電話民調服務的公司 Life Corporation。

2 月 6 日,美國聯邦通訊委員會(FCC)針對 Life Corporation 公司所製造的深偽音檔發出停止令兩天後,美國聯邦通訊委員會宣布,依《電話消費者保護法》(TCPA),在電腦語音中使用 AI 生成的「人造聲音」是非法行為

但即使發出停止令,也無法抑止這股熱潮,拜登的 Deepfake 電話語音只是一個開始。

拜登的偽造音訊傳開後,越來越多競選活動使用 AI 軟體接觸選民,投資者也紛紛將資金注入深度偽造技術相關的新創公司,其中 AI 語音克隆新創公司 ElevenLabs 在偽造音訊傳開不到一個月內,已有  1.01 億美元注入,公司估值高達到 11 億美元。

竄改政治相關的語音內容,這並非第一次。2023 年,在斯洛伐克(Slovak Republic)議會選舉前兩天,社群媒體上流出一個兩分鐘的影片——進步黨主席米哈爾・西梅卡(Michal Simečka)疑似正在與一名記者莫妮卡・托多瓦(Monika Tódová)討論從羅姆少數民族那裡收買選票。對話影片釋出後,西梅卡也緊急在自己的 X 帳號中澄清。該影片在專家分析後,推估音訊是經過 AI 技術合成而得。

中國網軍運用 AI 深偽內容干擾台灣選舉

偽造各種視頻混淆選民的亂象,不只出現在美國、斯洛伐克,也出現在台灣。

以北京利益為主目的的中國網軍帳號 Storm-1376 (或稱 Spamouflage 或 Dragonbridge),在今年初利用生成式 AI 編輯大量的假圖像,發佈美國城市衰敗、無家可歸、芬太尼濫用、槍支暴力和搖搖欲墜的基礎設施等訊息煽動選民,並製造美國正處於混亂狀態的假象。

儘管 Meta 在 2023 年表示已刪除與中國相關的 7,704 個 Facebook 帳號,和數百個臉書頁面,仍無法抑制  Storm-1376  活躍在各大社交媒體平台,甚至規模變得更大、品質變得更好,不僅觸及更多如你我一樣的真實帳號,且不斷向新平台與新語言擴張版圖。

上個月(4 月 4 日)微軟發布一份網路威脅報告,內容提到中國創建的大量假帳號,以生成式 AI 為工具,對各國選民進行秘密網路影響力行動,特別是在今年 1 月的台灣總統選舉時期,檢測到更複雜的 AI 內容——一段已退選總統候選人的郭台銘,在總統競選中支持另一位候選人的虛假音訊。Storm-1376 還推出一系列 AI 生成的表情包,內容涉及賴清德總統挪用公款等毫無根據的指控。

或許這些偽造內容並無直接影響選舉結果,但中國在增強模因、視頻和音頻方面,不斷增加的實驗可能會繼續下去。而 Storm-1376 的表現,也可以證明,運用 AI 深度偽造技術,以及快速規模化生成內容的特性,外國勢力規模化滲透操弄民主選舉的成本大幅度降低,AI 科技對民主制度的傷害也受到關注。

印度,第一個支持用 AI 造勢的民主國家

然而,在許多國家都為 AI 技術進入選舉之際擔憂時,印度——擁有 5 億選民、世界上最大規模選舉,是第一個支持用 AI 造勢的國家。為期 6 週的印度國會大選,目前正在如火如荼地進行中,印度的競選活動長期以來一直專注於挨家挨戶的宣傳和公開集會,但在 AI 工具爆炸式的增長,讓印度現任總理莫迪,看到了如何有效利用 AI 助選的機會。

選舉預算一直是民主國家公關行銷產業的重要金庫,印度今年的選舉,也改變了印度選舉行銷產業的面貌,新崛起的 AI 新創大舉進駐搶預算。

陪你從「科技+人文」視角,深入國際政經脈動

35元/週解鎖付費會員專屬內容

  • 成為付費會員,即可擁有:
  • ✓ 全站深度分析報導文章
  • ✓ 會員專屬 8 折活動報名優惠

已經是付費會員?登入繼續閱讀

王淳慧

王淳慧 / 研究員

編譯

張育寧

張育寧 / 總編輯

審訂

分享 Share シェア

facebooklinetwitterlinkedin

延伸閱讀 Read more

收入微薄的豪賭:Open AI 之外,岌岌可危的其他 AI 新創

收入微薄的豪賭:Open AI 之外,岌岌可危的其他 AI 新創

新創募資能量低迷的 2023 年,Open AI 收入創新高,使得 AI 新創成為多數投資人的唯一目標,尤其是科技巨頭花費前所未有的巨額資金投資 AI 新創公司,以避免在生成式 AI 熱潮中落後。然而今年 3 月以來,幾家標誌性 AI 新創公司卻在商業模式未明下屢逢危機。這些收到大筆資金的 AI 新創公司,必須想辦法拉近支出與銷售之間的差距。

2024-05-10 17:58:00

前進印度,不可不知的「莫迪式宗教衝突」

前進印度,不可不知的「莫迪式宗教衝突」

印度擁有約兩億穆斯林,是世界上穆斯林人口最多的國家之一,但在這個以印度教為主的國家中,穆斯林只佔少數。自印度獨立以來,儘管有憲法保護,穆斯林仍經常面臨歧視、偏見和暴力。在總理莫迪和執政人民黨(BJP)的領導下,反穆斯林情緒加劇;現任總理莫迪在 2024 年連任,印度的宗教分裂情勢可能更嚴峻。

2024-04-17 09:00:00

印度正如何超越中國,成為世界成長動力?

印度正如何超越中國,成為世界成長動力?

今年 1 月,印度股市市值首度超越香港市場,成為全球第 4 大股票市場。除了歸功於印度過去十年的經濟成長及政策改革吸引外資青睞,美中經濟關係惡化、中國經濟成長放緩也是重要推力,「撤出中國,轉向印度」是怎麼開始的?

2024-04-15 12:47:00

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent