[專欄] <%:data.title%>

專題 <%:data.title%>

<%:~nl2br(data.summary)%>

<%:data.subtitle%>

<%:data.subtitle%>

#<%:prop.issue%>

<%:~formatDate(prop.online_date, 'YYYY MMM DD')%>

<%:prop.title%>
<%props prop.kols%>
<%:prop.realname%>
<%/props%>
<%if prop.column_id != 0 %> <%/if%> <%if prop.topic_id != 0 %> <%/if%>
「用 AI 反制 AI」科技破解 Deepfake 可行嗎?

ISSUE #041

「用 AI 反制 AI」科技破解 Deepfake 可行嗎?

2022-04-19 10:00:00

2022 年 2 月底爆發俄烏戰爭,不到一個月內,網路上就流傳一則烏克蘭總統澤倫斯基呼籲該國人民投降的影片,不久後即被發現此為深偽(deepfake)技術製造的影片。此類事件在過去幾年出現頻率日趨密集,究竟現在的科技能否反制這類非法行為?

#Deepfake 攻防失衡 #該管的是技術還是行為 #控管源頭是必要作為

王明德

王明德 / 特約記者

採訪寫作

陳卓君

陳卓君 / 副總編輯

審訂

圖片來源 - physicsworld

questionquestion

發生什麼事?

使用軟體修圖在網路已行之有年,電影工作者更早就透過 CG(Computer Graphic, 電腦繪圖)技術做出各種影片特效,不過這些做法都必須透過大量的手工作業逐步完成。近幾年 AI 技術進展快速,簡單的深偽(deepfake)技術換臉軟體大行其道,並且開始被用於各種非法用途。

  • 2018 年美國導演 Jordan Peele 用深偽技術製作出假影片《You Won’t Believe What Obama Says In This Video!》,片中前美國總統歐巴馬指稱當時美國總統川普是「完完全全的笨蛋」。(Youtube
  • 2020 年 10 月,日本警視廳偵破大學生林田拓海、工程師大槻隆信與野間口功也利用深偽技術將女藝人臉部與情色影片合成,受害女藝人多達 150 位。(天下
  • 2021 年底台灣網紅小玉涉嫌透過深偽技術,以換臉知名女性公眾人物製作的情色影片,非法牟利高達千萬元,受害者包括政治人物、藝人、網紅。YouTube 隨即發表聲明,無限期停止小玉頻道的營利資格。(公視
  • 2022 年社群媒體出現烏克蘭總統澤倫斯基要求烏軍向俄羅斯投降的影片,被發現是採用深偽技術變造,YouTube 與臉書隨即刪除該影片。(BBC


該如何分辨真假?

在軟硬體技術的快速精進下,使用深偽技術越來越方便,所偽造出的照片、影片破綻也越來越少。多數專家坦言,反制技術仍無法跟上,強化資安意識與來源鑑識機制是目前最有效的做法

  • 養成辨別真偽的網路安全意識是所有資安防禦的前提,此外,持續更新進化的資安防護機制,仍會是防止利用深偽技術網路釣魚的最佳作法。(Security Intelligence
  • NCC 集團首席研究員 Jennifer Fernick 坦言,深偽技術快速精進,但目前市場上仍沒有可檢測的防偽技術。資安大廠 Thycotic 首席安全科學家 Joseph Carson 則認為,網路平台業者應從來源端進行管理,透過可辨識的標籤提醒觀看者,圖片及影片是「已通過驗證」、「仍在分析中」或「已修改過」。ThreatsHub


如何反制深偽技術?

「用 AI 對抗 AI」被視為反制深偽技術的最佳作法,目前除了資安業者著手投入技術研發外,也有新創團隊推出相關平台,提供市場不同面向的反制工具。

  • 網路資安大廠 McAfee 於 2020 年宣布將啟動 McAfee Deepfakes Lab 計畫,將投入企業資源、專業知識與工具,研發電腦視覺、深度學習等可對抗深偽技術。(McAfee
  • 台灣新創團隊 Numbers 主張數據,發展出利用區塊鏈不可竄改特色所打造的瞬時影像 Capture 平台,此平台可完整保留照片、拍攝者身分、拍攝時間與地點、修圖時間等資訊,照片邊角留下特有標誌,註記此照片的可信賴性。數位時代
  • 台灣新創團隊 AuthMe 運用 Explainable AI 模型打造的辨識技術,可識別人臉,檢測活體,並搭配證件中的 NFC 晶片,確保證件照片與持有者的身分一致,目前此技術已為純網銀 LINE Bank 採用。(Global Hack 2020天下雜誌

原本被設計於正向應用的深偽技術,因遭不法人士濫用,成為各國政府亟欲反制的技術。但除了法律之外,科技人是如何看待深偽技術?科技問題是否可用科技解決?請看《旭時報》與專家們的深度對談。

什麼是 Deepfake ?

「Deepfake」是英文「deep learning 深度學習」和「fake 偽造」的組成詞,指基於人工智慧的人體圖像合成技術的應用。此技術利用 AI 來進行判別與雙向的學習,達到影像、身份、聲音的虛擬複製,只要有足夠的數據庫,便可深度偽造出擬真的物件。

我們可以從與民生最為相關的「醫療」看起

深度專訪

question
目前全球已有多起因深偽技術受害的事件,相較於以往類似的技術,deepfake 有哪些特別之處?
許志仲

許志仲

成功大學數據科學研究所 助理教授

在圖片、影片上後製各種仿真內容,讓它看起來真假難辨的技術很早之前就有,直到現在用 Photoshop 進行「P圖」仍是這類作為最主流的方式。不過,無論是用 Photoshop 或手機上的各種修圖軟體,都仍以半手工方式進行,需要耗費大量時間製圖、做影片,因此即便可以修的栩栩如生,但效率仍然有限。

深偽技術之所以能成為社會「焦點」,主要是拜電腦軟硬體快速進步所賜。深偽技術背後的軟體技術是「GAN」(Generative Adversarial Network, 生成對抗網路),此技術的主要功能是用來強化 AI 機器演算法的效能與效率,GAN 架構裡面有鑑別網路(Discriminating Network)和生成網路(Generative Network),你可以把這兩種網路看成鑑定者和贗品製造者,贗品製造者模仿真品生成圖片,鑑定師則找出模仿品的漏洞,兩者不斷交互。

硬體也是助長深偽技術發展的主因,上面提到的「GAN」,裡面兩種網路透過快速來回交互運作產生逼真影音檔案,這種運作模式背後要有一定程度的運算能力,否則圖片生成時間會拉的非常久,這幾年處理器技術快速精進,已經能滿足使用者需求。

除了軟硬體技術,友善介面則大幅降低了深偽技術的使用門檻。「GAN」當初主要作為學術研究,開始的研發動機是正面、善意,因此不斷有人簡化此技術使用時的每一個環節,讓它變得易用,沒想到此一善意被用於負向行為。

整體來說,在軟硬體與使用介面的全面優化下,現在 deepfake 已經解決過去半手工 P 圖的低效率問題,自動生成逼真假照片不但速度更快,破綻也更少。

李紀廣

李紀廣

AuthMe 數位身分執行長

深偽技術功能之所以會如此強大,得力於軟體算法和硬體能力的精進。現在 AI 常用的機器學習(Machine Learning)20 年前就已經問世,不過當時程式尚未精簡,硬體運算能力也還沒到位,因此運作成本非常高。

後來深度學習(Deep Learning)問世,深度學習是機器學習的一種,可以透過神經網路,讓機器自主學習從而做出準確決策,此外深度學習所具備泛化特色,AI 平台可因此解決過去只能應用於特定領域的問題,這讓深偽技術的可用性更佳。舉例來說,以前 AI 平台只能互換同為歐美或亞洲人士的臉型,深度學習 AI 平台則不限於特定條件,不同人種、膚色甚至是性別都可以互換,而且可以做得更自然無破綻。

不斷進化的演算法結合算力越來越強的 GPU,大幅提升了深偽技術效能,即便是畫面數量龐大的影片,深度學習演算法也可針對單一幀畫面進行運算,找出特徵規律後,再利用程式自動化整合至整段影片,相比於以前的單張作業方式更有效率,也更容易上手使用。

question
深偽技術未來還會如何進化?
李紀廣

李紀廣

AuthMe 數位身分執行長

在軟硬體同步進化後deepfake 的模擬能力會越來越自然、細緻。除了肢體動作、五官表情更逼真外,還會隨著周邊環境的光影變化,同步調整肌膚紋理的合理性,尤其是市場需求啟動後,以往難以解決的問題將逐漸突破,例如目前仍待精進的影片人物對嘴或動作不自然之處,之後必然會一一克服。

許志仲

許志仲

成功大學數據科學研究所 助理教授

在演算法和處理器運算能力的持續提升,深偽技術的仿真功力會更強、速度會更快,尤其是現在行動裝置的算力不斷強化,應用程式也越來越好用,現在已經有各種美拍、換臉 App,未來深偽技術也有可能在智慧手機、平板電腦上使用。

question
除了為惡之外,深偽技術如果應用在正向的產業發展,在哪些領域可以發揮較大價值?
許志仲

許志仲

成功大學數據科學研究所 助理教授

深偽技術最初的用意是用於正向,基本上只要影像相關應用辨識,這項技術都可以發揮作用。電影 CG(Computer Graphics, 電腦繪圖)就是大家最熟悉的應用之一,透過深偽技術,可以更快更逼真做出虛擬角色與場景。又或者另外自駕車也會是此技術的重要應用領域,自駕車要在真實道路上安全行駛,在車輛設計階段必須先打造完整的機器學習訓練模型,讓自駕車的 AI 系統擁有精準複雜的對應模式,然而真實道路會遇到狀況繁雜,要在訓練模型中建構足量的影像資料,往往需要耗費大量人力與時間,這時深偽技術就可以解決此一問題。

同樣的作法也可以應用在醫療領域,利用深偽技術的快速逼真圖片,協助 AI 醫療平台快速建構擁有充足樣本數的訓練模型,讓 AI 平台可以精準判讀各種生理影像,為醫師提供診療建議,優化醫療品質。

李紀廣

李紀廣

AuthMe 數位身分執行長

現在民眾對影像越來越依賴,深偽技術在正向應用的領域也會越來越多元。影像模擬做法並非始於近日,電影工業就有大量案例。例如前幾年的電影《玩命關頭7》,後段劇情就利用模擬軟體讓已過世的主角重現在電影中。

另外在個人消費端,深偽技術可以將年長者的圖像影片模擬回年輕模樣,讓家人看到長者的青春模樣。整體而言,深偽技術的應用非常多,現在技術已經相當成熟,要以何種方式呈現端看創意與需求。

question
深偽技術被非法應用時,目前有哪些反制技術可以辨識、反制?
李紀廣

李紀廣

AuthMe 數位身分執行長

現在網路發達,以視訊影像進行各種商務活動越來越常見,視訊影像的偽造做法主要有兩種,一是在直接侵入網路中間層置換,讓另一接收端從一開始看到的影像就非本人,不過此做法如果遇到網路保護機制完善,例如恪遵金管會規範的純網銀網路,其侵入難度就會大幅提升。

第二種侵入手法是在鏡頭前架設高解析度顯示器,並利用 deepfake 的換臉技術讓另一端難辨真偽,要防堵這種作法,可以用活體偵測技術,確認影像是否為真實人臉。

許志仲

許志仲

成功大學數據科學研究所 助理教授

深偽技術的破綻越來越小,人眼辨識的效率不高,最好方式還是用「AI 抓 AI」,也就是用 GAN 裡面的鑑別網路,由於同屬 AI 技術之一一套軟體系統,因此在判別時會比其他作法更具優勢。

另一個作法是來源控管,這部分可以利用區塊鏈的不可竄改特色,讓使用者和觀看者可以快速辨識相片、影片的來源,目前台灣已經有新創公司研發相關技術,從技術面來看此方法可行,但前提是社會上絕大多數企業、組織都願意採用,成效才會浮現。

question
使用反制深偽技術的可行商業模式為何?
李紀廣

李紀廣

AuthMe 數位身分執行長

近幾年利用深偽技術換臉進行非法行為的頻率有升高跡象,2021 年網紅小玉的案件是台灣較知名案例,另外今年的俄烏戰爭中,烏克蘭總統也被俄國駭客換臉,做出呼籲烏克蘭民眾投降的假影片,由於此技術對政治和社會治安非常深,因此政府機關會是導入反制深偽技術較積極者。

商用方面,銀行保險業或機敏性較高的大型企業也會是反制深偽技術目標族群。近幾年銀行、保險業線上業務漸多,尤其是現在金管會已經許可經營純網銀,這類機構所有的動作都在網路上進行,因此管理者必須要確保遠端傳來的人臉影像是否為帳戶使用者本人,以免出現金融風險或授權資料不被主管機關認可等情事發生。高機敏性的大型企業例如半導體企業,則必須讓出入口的通行證件掃描或臉孔辨識設備,具有辨識真偽影像的能力,防止辦公室或廠區被有心人士侵入,竊走機敏資料。

許志仲

許志仲

成功大學數據科學研究所 助理教授

老實說,目前投入 deepfake 反制技術的企業並不多,原因除了技術難度高之外,市場不大也是其一,而且此困境不只台灣,全球都一樣。就市場需求來看,此技術主要的需求者包括政府機關、媒體、社群網站。其中政府機關出於治安考量,因此會是最大買家,目前台灣科技部已有相關計畫,不過團隊編制並不多。媒體的購買考量則是避免使用偽照影音,導致報導公正性受影響。社群網站的導入考量也是杜絕假新聞。觀察目前狀況,媒體與社群網站或許因為成本,投並未積極投入,就中短期來看,政府仍是主要採購者。

question
除了技術外,要反制深偽技術的非法應用,還需要哪些層面的配合?
李紀廣

李紀廣

AuthMe 數位身分執行長

Deepfake 反制技術的導入與否,取決於企業對網路風險的接受程度,無論哪一種反制技術都不可能 100% 防範偽造,但現在各種技術與機制陸續問世,無論是「將錯誤視為真實」的接受誤差率(False Acceptance Rate, FAR)或「真實視為錯誤」的拒絕誤差率(False Rejected Rate, FRR),比例都可以降到百萬分之一,重點企業必須自己思考能接受的容錯率?

至於國家方面,中國 2019 年訂立的《網路音視頻信息服務管理規定》就已經明文禁止使用深偽技術,韓國的《性暴力犯罪處罰特別法》修正案也訂出深偽技術禁令與罰則,另外美國、台灣也都開始有相關作為,由此來看,國家會是防範深偽技術被用於非法行為的主要力量。不過技術本身是中立,深偽技術用於正向也有益於人類文明進步,因此國家或許該思考,管制技術或管制行為哪一樣對社會進步更有利?

許志仲

許志仲

成功大學數據科學研究所 助理教授

技術要為善為惡端看使用者,因此防範方向不該是技術而是行為,正如前面所敘,政府可以建立來源鑑識機制,讓使用者充分了解手上的影音檔案的真實性,此外更完整嚴謹的法律也有一定的遏阻作用,從多方著手會是防止這項技術被用於非法途徑的必要作為。

question
貴單位目前有哪些技術,可協助網路使用者或企業防範深偽技術的威脅?
李紀廣

李紀廣

AuthMe 數位身分執行長

AuthME 的平台可以利用光學自原辨識技術掃描文件資料,並利用手機 NFC 功能讀取護照這類內建辨識晶片的證件,再利用人臉辨識技術判別照片與證件持有者是否為同一人,在影音傳輸平台中,我們的活體偵測技術可以從人臉與背景深度、皮膚血液流動…等資訊,在一分鐘內判斷影像是否為活人,減少被深偽技術合成影像詐騙成功的機率,我們的服務可以是協助各單位建構快速便利的數位身分驗證平台,降低企業審查身分成本,讓安全與便利可以共存在企業中。

許志仲

許志仲

成功大學數據科學研究所 助理教授

成大數據科學研究所過去的主要集中於數據庫領域,近期開始強化數據即時偵測,現在在多數情況下,臉部真偽判斷的準確度已穩定達到 80% 以上,不過要完全破解深偽技術必須多方合作,不能只靠單一技術。

近期有廠商來詢問技轉事宜,這代表市場商機已逐漸浮現,至於未來會如何發展,目前仍難有定論,希望未來在產官學界的攜手合作下,深偽技術能往良善方向發展,用科技為人類創造正向價值。


此次與談人

許志仲

許志仲

成功大學數據科學研究所 助理教授

李紀廣

李紀廣

AuthMe 數位身分執行長

延伸閱讀

防禦 Deepfake:從告知到加密

雖然 deepfake 現在仍可看出破綻,但未來一定會進化到無跡可尋。除了持續研發技術外,管控流程和驗證身分也是必要作為,不過前提是市場必須有共通的標準機制。

DarkReading

辨識假訊息之科技研究分析

國外大廠與著名大學曾於 2019 年舉辦 deepfake 辨識技術比賽,台灣學研機構也有相關研究,不過多聚焦於假訊息文字內容的偵測與分析。辨識變造影片的技術難度相對高,台灣此方面的研究能量尚待累積。

科技部

什麼是 Deepfake,該如何辨別它?

AI 生成的虛擬影像變得越來越普遍和真實,這正是我們該正視這個議題的原因...

衛報

傷害與治療一線之隔,Deepfake 如何替未來醫療鋪路?

2021 年台灣出現了首例 deepfake 換臉犯罪,多位知名人士的頭像被深度偽裝於高度逼真的色情影片中,甚至總統人像也被移花接木,涉及國安及犯罪。影片是假的、但傷害是真的,deepfake 真的這麼壞嗎?其實,也有善的應用。

2022-04-13 10:00:00

時間標記

EPEPISODE # 旭沙龍-張育寧時間

EP #