人工智慧是從什麼時候開始滲入選舉裡的?也許可以從今年年初講起。
2024 年 1 月,新罕布夏州(State of New Hampshire)初選前夕,許多民主黨的選民接到了機器人電話,倡導選民別在 1 月 23 日的新罕布夏州總統初選中支持喬・拜登,這通電話以拜登常使用的口號—— What a bunch of malarkey ——作為結束。
整通語音內容疑點重重,讓支持拜登的選民感到困惑:這真的是來自官方嗎?
事實上,拜登總統的名字並未出現在新罕布夏州競選的選票上。這是因為在愛荷華州黨團會議後,拜登和民主黨決定取消新罕布夏州作為總統初選「全國第一站」的傳統,把首場初選改在南卡羅來納州舉行,以此鼓勵當地非洲裔選民出來投票。但以「不自由,毋寧死」(Live Free or Die)作為州格言的新罕布夏州,選擇違背民主黨安排,繼續進行投票。因此,這次新罕布夏州投票將不會產生任何代表,在整個提名過程中僅具象徵意義。
而儘管機器人電話中的聲音聽起來像是拜登總統的聲音,但經過司法部長約翰・福爾梅拉(John Formella)調查後,這則電話的音頻並非總統本人,深度偽造(Deepfake)的源頭,追溯到了專門提供機器人電話和電話民調服務的公司 Life Corporation。
2 月 6 日,美國聯邦通訊委員會(FCC)針對 Life Corporation 公司所製造的深偽音檔發出停止令。兩天後,美國聯邦通訊委員會宣布,依《電話消費者保護法》(TCPA),在電腦語音中使用 AI 生成的「人造聲音」是非法行為。
但即使發出停止令,也無法抑止這股熱潮,拜登的 Deepfake 電話語音只是一個開始。
拜登的偽造音訊傳開後,越來越多競選活動使用 AI 軟體接觸選民,投資者也紛紛將資金注入深度偽造技術相關的新創公司,其中 AI 語音克隆新創公司 ElevenLabs 在偽造音訊傳開不到一個月內,已有 1.01 億美元注入,公司估值高達到 11 億美元。
竄改政治相關的語音內容,這並非第一次。2023 年,在斯洛伐克(Slovak Republic)議會選舉前兩天,社群媒體上流出一個兩分鐘的影片——進步黨主席米哈爾・西梅卡(Michal Simečka)疑似正在與一名記者莫妮卡・托多瓦(Monika Tódová)討論從羅姆少數民族那裡收買選票。對話影片釋出後,西梅卡也緊急在自己的 X 帳號中澄清。該影片在專家分析後,推估音訊是經過 AI 技術合成而得。
中國網軍運用 AI 深偽內容干擾台灣選舉
偽造各種視頻混淆選民的亂象,不只出現在美國、斯洛伐克,也出現在台灣。
以北京利益為主目的的中國網軍帳號 Storm-1376 (或稱 Spamouflage 或 Dragonbridge),在今年初利用生成式 AI 編輯大量的假圖像,發佈美國城市衰敗、無家可歸、芬太尼濫用、槍支暴力和搖搖欲墜的基礎設施等訊息煽動選民,並製造美國正處於混亂狀態的假象。
儘管 Meta 在 2023 年表示已刪除與中國相關的 7,704 個 Facebook 帳號,和數百個臉書頁面,仍無法抑制 Storm-1376 活躍在各大社交媒體平台,甚至規模變得更大、品質變得更好,不僅觸及更多如你我一樣的真實帳號,且不斷向新平台與新語言擴張版圖。
上個月(4 月 4 日)微軟發布一份網路威脅報告,內容提到中國創建的大量假帳號,以生成式 AI 為工具,對各國選民進行秘密網路影響力行動,特別是在今年 1 月的台灣總統選舉時期,檢測到更複雜的 AI 內容——一段已退選總統候選人的郭台銘,在總統競選中支持另一位候選人的虛假音訊。Storm-1376 還推出一系列 AI 生成的表情包,內容涉及賴清德總統挪用公款等毫無根據的指控。
或許這些偽造內容並無直接影響選舉結果,但中國在增強模因、視頻和音頻方面,不斷增加的實驗可能會繼續下去。而 Storm-1376 的表現,也可以證明,運用 AI 深度偽造技術,以及快速規模化生成內容的特性,外國勢力規模化滲透操弄民主選舉的成本大幅度降低,AI 科技對民主制度的傷害也受到關注。
印度,第一個支持用 AI 造勢的民主國家
然而,在許多國家都為 AI 技術進入選舉之際擔憂時,印度——擁有 5 億選民、世界上最大規模選舉,是第一個支持用 AI 造勢的國家。為期 6 週的印度國會大選,目前正在如火如荼地進行中,印度的競選活動長期以來一直專注於挨家挨戶的宣傳和公開集會,但在 AI 工具爆炸式的增長,讓印度現任總理莫迪,看到了如何有效利用 AI 助選的機會。
選舉預算一直是民主國家公關行銷產業的重要金庫,印度今年的選舉,也改變了印度選舉行銷產業的面貌,新崛起的 AI 新創大舉進駐搶預算。