人工智慧是從什麼時候開始滲入選舉裡的？也許可以從今年年初講起。
2024 年 1 月，新罕布夏州（State of New Hampshire）初選前夕，許多民主黨的選民接到了機器人電話，倡導選民別在 1 月 23 日的新罕布夏州總統初選中支持喬・拜登，這通電話以拜登常使用的口號—— What a bunch of malarkey ——作為結束。
整通語音內容疑點重重，讓支持拜登的選民感到困惑：這真的是來自官方嗎？
事實上，拜登總統的名字並未出現在新罕布夏州競選的選票上。這是因為在愛荷華州黨團會議後，拜登和民主黨決定取消新罕布夏州作為總統初選「全國第一站」的傳統，把首場初選改在南卡羅來納州舉行，以此鼓勵當地非洲裔選民出來投票。但以「不自由，毋寧死」（Live Free or Die）作為州格言的新罕布夏州，選擇違背民主黨安排，繼續進行投票。因此，這次新罕布夏州投票將不會產生任何代表，在整個提名過程中僅具象徵意義。
而儘管機器人電話中的聲音聽起來像是拜登總統的聲音，但經過司法部長約翰・福爾梅拉（John Formella）調查後，這則電話的音頻並非總統本人，深度偽造（Deepfake）的源頭，追溯到了專門提供機器人電話和電話民調服務的公司 Life Corporation。
2 月 6 日，美國聯邦通訊委員會（FCC）針對 Life Corporation 公司所製造的深偽音檔發出停止令。兩天後，美國聯邦通訊委員會宣布，依《電話消費者保護法》（TCPA），在電腦語音中使用 AI 生成的「人造聲音」是非法行為。
但即使發出停止令，也無法抑止這股熱潮，拜登的 Deepfake 電話語音只是一個開始。
拜登的偽造音訊傳開後，越來越多競選活動使用 AI 軟體接觸選民，投資者也紛紛將資金注入深度偽造技術相關的新創公司，其中 AI 語音克隆新創公司 ElevenLabs 在偽造音訊傳開不到一個月內，已有 1.01 億美元注入，公司估值高達到 11 億美元。
竄改政治相關的語音內容，這並非第一次。2023 年，在斯洛伐克（Slovak Republic）議會選舉前兩天，社群媒體上流出一個兩分鐘的影片——進步黨主席米哈爾・西梅卡（Michal Simečka）疑似正在與一名記者莫妮卡・托多瓦（Monika Tódová）討論從羅姆少數民族那裡收買選票。對話影片釋出後，西梅卡也緊急在自己的 X 帳號中澄清。該影片在專家分析後，推估音訊是經過 AI 技術合成而得。
中國網軍運用 AI 深偽內容干擾台灣選舉
偽造各種視頻混淆選民的亂象，不只出現在美國、斯洛伐克，也出現在台灣。
以北京利益為主目的的中國網軍帳號 Storm-1376 （或稱 Spamouflage 或 Dragonbridge），在今年初利用生成式 AI 編輯大量的假圖像，發佈美國城市衰敗、無家可歸、芬太尼濫用、槍支暴力和搖搖欲墜的基礎設施等訊息煽動選民，並製造美國正處於混亂狀態的假象。
儘管 Meta 在 2023 年表示已刪除與中國相關的 7,704 個 Facebook 帳號，和數百個臉書頁面，仍無法抑制 Storm-1376 活躍在各大社交媒體平台，甚至規模變得更大、品質變得更好，不僅觸及更多如你我一樣的真實帳號，且不斷向新平台與新語言擴張版圖。
上個月（4 月 4 日）微軟發布一份網路威脅報告，內容提到中國創建的大量假帳號，以生成式 AI 為工具，對各國選民進行秘密網路影響力行動，特別是在今年 1 月的台灣總統選舉時期，檢測到更複雜的 AI 內容——一段已退選總統候選人的郭台銘，在總統競選中支持另一位候選人的虛假音訊。Storm-1376 還推出一系列 AI 生成的表情包，內容涉及賴清德總統挪用公款等毫無根據的指控。
或許這些偽造內容並無直接影響選舉結果，但中國在增強模因、視頻和音頻方面，不斷增加的實驗可能會繼續下去。而 Storm-1376 的表現，也可以證明，運用 AI 深度偽造技術，以及快速規模化生成內容的特性，外國勢力規模化滲透操弄民主選舉的成本大幅度降低，AI 科技對民主制度的傷害也受到關注。
印度，第一個支持用 AI 造勢的民主國家
然而，在許多國家都為 AI 技術進入選舉之際擔憂時，印度——擁有 5 億選民、世界上最大規模選舉，是第一個支持用 AI 造勢的國家。為期 6 週的印度國會大選，目前正在如火如荼地進行中，印度的競選活動長期以來一直專注於挨家挨戶的宣傳和公開集會，但在 AI 工具爆炸式的增長，讓印度現任總理莫迪，看到了如何有效利用 AI 助選的機會。
選舉預算一直是民主國家公關行銷產業的重要金庫，印度今年的選舉，也改變了印度選舉行銷產業的面貌，新崛起的 AI 新創大舉進駐搶預算。
