[專欄] <%:data.title%>

專題 <%:data.title%>

<%:~nl2br(data.summary)%>

<%:data.subtitle%>

<%:data.subtitle%>

#<%:prop.issue%>

<%:~formatDate(prop.online_date, 'YYYY MMM DD')%>

<%:prop.title%>
<%props prop.kols%>
<%:prop.realname%>
<%/props%>
<%if prop.column_id != 0 %> <%/if%> <%if prop.topic_id != 0 %> <%/if%>
在充滿 Deepfake 的未來,社群相關產業該如何備戰?

ISSUE #042

在充滿 Deepfake 的未來,社群相關產業該如何備戰?

2022-05-01 11:53:00

Deepfake (深偽)技術精細程度與時俱進,取得成本日趨低廉,帶動深偽應用更為普及。當「眼見不再為憑」,大眾對媒體、品牌的信任也將有所保留。究竟,依賴社群平台與受眾對話的產業,正在面對什麼樣的「虛假大戰」?

#Deepfake 竄流 #假新聞進步中? #與黑帽公關比技術?

盧亞蘭

盧亞蘭 / 採訪編輯

採訪寫作

陳卓君

陳卓君 / 副總編輯

審訂

圖片來源 - unsplash

questionquestion

發生什麼事?

現今不需雇人,就可利用 AI 技術,大量製造無法追蹤的假影片,影響許多利害關係人。(The Reality Game大西洋雜誌

  • 以媒體產業來說,已有過半數認為,當前世界數位化的加速,對媒體品質帶來負面影響;且有 1/3 的台灣媒體人,對假新聞事件感到困擾。(Telum 2022 亞太媒體調查
  • 以行銷公關產業來說,則可能遇到黑心公關、不正當顧問公司,利用普及、廉價的 deepfake(深偽)技術,在市場上製造假影片,攻擊對手代理品牌之信譽。(經濟學人華盛頓郵報
  • 以受眾來說,45 歲以上、相信「眼見為憑」的民眾是最大受害者;反觀如青少年世代的「高度接觸資訊者」,因深知科技的能力,會對來路不明資訊持保留態度。(詳見文末 電通集團智庫負責人楊少夫訪談)


產業能怎麽因應?

眼前,網路平台商如 Google、Facebook 也認知到深偽技術可能帶來的危機,並研發檢驗機制。在那之前,使用社群平台與民眾對話的產業,也在找出生存之道。(紐約時報

  • 在行銷產業,品牌商常需要在短時間內「病毒式擴散」的討論,而深偽技術能帶來這樣的效果。所以這種工具,不僅限負面運用,也打開一種與消費者間,新的對話機會(詳見文末 陽獅 Digitas 副總監吳芃訪談)
  • 在媒體產業,要偵測出來源經過深偽技術竄改,其實很難,因圖片、影片上傳社群後,檔案會壓縮、格式等原始數據也能被抹去。但依舊能用 Google 街景認路標、比對該日天氣陰影角度、查證當地新聞口音等,做報導查核。(路透社數位新聞教程)


未來會如何?

當人們不再相信網路上的各種言論,社群凝聚力倒退,但技術的普及化,也是一種帶動社會進步的象徵。有可能,未來關乎公眾權益的政治辯論,選擇不透過臉書、推特直播,而是透過能驗證真實身份的平台。(大西洋經濟學人

  • 在台灣,開始有新創以 AI 協助媒體公關產業。用科技驗證報導。(詳見文末 SparkAmplify 執行長李健群訪談)
  • 國際社群平台商正在開發偵測方式,辨別以深偽技術等其它方式操縱的媒體內容。(詳見文末 Google 台灣、TikTok 訪談)
  • 對於深偽技術帶來的社會問題,不僅平台商該面對,所有利害相關人,都需一起分擔防護責任。(詳見文末 桃園資科局局長余宛如訪談)

這次的訪談,《旭時報》邀請到影片社群平台龍頭廠商 TikTok,及 Google 台灣、桃園資科局局長余宛如、電通集團智庫負責人楊少夫、陽獅 Digitas 副總監吳芃、及以 AI 做媒體行銷的新創——SparkAmplify 的創辦人暨執行長李健群,一起從產業面、社會面、科技面,與我們形塑未來社群網路世界。

什麼是 Deepfake ?

「Deepfake」是英文「deep learning 深度學習」和「fake 偽造」的組成詞,指基於人工智慧的人體圖像合成技術的應用。此技術利用 AI 來進行判別與雙向的學習,達到影像、身份、聲音的虛擬複製,只要有足夠的數據庫,便可深度偽造出擬真的物件。

我們可以從與民生最為相關的「醫療」看起

深度專訪

question
越來越多 deepfake 詐欺事件出現,會不會擔心社群平台被有心人士濫用?有什麼解方嗎?
Google 台灣

Google 台灣

深偽(Deepfake)是一個我們已經意識到、並有團隊專注處理的問題。而正如我們過去的聲明 ,我們的研究團隊正努力開發針對深偽、和其它形式被操縱媒體內容(manipulated media)的偵測方法,藉此減少對深偽技術的濫用,和隨著濫用所帶來的負面傷害。 針對涉及欺詐的爭議內容, 我們可以提供 YouTube 平台上,行之有年的做法作為參考 — —

YouTube 行之有年的垃圾內容、詐欺行為與詐騙處理政策,嚴禁在平台發布垃圾內容,或以詐騙和其它詐欺手段,侵害 YouTube 社群的利益,這包括禁止...(請登入閱讀更多)

TikTok

TikTok

在 TikTok,我們評估內容的真實性,並與事實查核夥伴密切合作,並移除違反社群自律公約的內容(無論內容是否經過編輯)。 例如,若用戶冒充他人(無論內容是否是合成的),我們會以違反冒名政策為由移除內容。 唯一例外的是,我們可能會允許明顯為戲仿內容的帳號(這裡一併附上相關政策連結)。

我們提供多項誠信與真實性的相關政策,來預防誤導內容,而合成媒體政策為其中之一。政策中明訂,移除任何透過扭曲事實誤導用戶,並且對影片的主角、他人或社會造成傷害的數位偽造(合成媒體或修改媒體)內容。

question
行銷廣告及公關產業會被 deepfake 議題影響嗎?能怎麼應對?
楊少夫

楊少夫

電通行銷傳播集團 智庫負責人

假訊息的問題,會帶來「信任結構轉變」——畢竟失去閱聽眾信心的平台,將沒有被注目的焦點。因為行銷傳播產業最主要的轉變力道在於「信任」媒介的迭代,因此電通行銷傳播集團,相當注重維繫品牌與消費者間的信任關係,這也是電通行銷傳播集團,隨著科技進展,在創意、媒體、數據上致力著墨的方向。

不論何種形式的虛假訊息,都會影響閱聽大眾對媒體平台的信賴度,進而影響該媒體的行銷傳播效益。當閱聽大眾對該媒體平台失去信心,減少實質的拜訪行為,也就沒有相對應的數據分析價值。因此,假訊息首當其衝的都是科技平台公司 (如 Facebook 或是 YouTube),這關乎其用戶量體與黏著度的長期關係維繫。當然,電通行銷傳播集團也有相應的科技作為...

吳芃

吳芃

陽獅 Digitas 方案規劃副總監

所有新科技帶來的社會影響,永遠都是兩面刃,帶來新的想像空間及互動方式,但在相關法規尚未健全的狀況下,的確會在有心人士的操弄下帶來負面影響。與許完全禁止,更應該思考,如何廣為教育社會大眾有關 deepfake 技術的存在,了解對自己所見的任何訊息都要存疑查證。但對於行銷產業來說,deepfake 其實也為品牌與消費者之間,打開一種新的對話機會及擴散方式。

精準創意行銷的確重要,但更多時候品牌要的是短時間內,病毒式的討論擴散,而深度偽造技術帶來的無限可能性,剛好就能帶來這樣的效果。所以不僅限於負面運用,越來越多...

question
社群上快速竄流的假影片,會對「使用手機成癮」的青少年造成更大影響嗎?
楊少夫

楊少夫

電通行銷傳播集團 智庫負責人

其實相信「眼見為憑」的人,可能才是最大受害者

近年來,45 歲以上的消費者,在網路的使用時間與用戶比例不斷拉升,網路世界的資訊與形式,反而對這群年紀稍長的網路新用戶而言,既新奇且難分真假,「眼見為憑」更可能是根深蒂固的觀念,他們若只接觸 LINE 或特定臉書社團,就容易因為資訊的單一性,造成不易辨識訊息真偽。也因此,45 歲以上的消費者,其實更可能成為深偽技術的受害者。而高度接觸資訊者,反而深知科技的能力...

吳芃

吳芃

陽獅 Digitas 方案規劃副總監

深度偽造影片,在年輕人廣為使用的社群平台上(像 TikTok 上)並不算少見,因此相較其他年齡層,年輕用戶反而會對自己所見的影片真實性更有所保留。但對科技進步程度較不熟悉的年長族群,更容易受假新聞或造假影片影響,進一步的轉傳給其他使用者作為擴散。

question
未來,社群平台、媒體產業以及政府等,可以怎麼應對 deepfake 議題?
余宛如

余宛如

桃園市政府資訊科技局 局長/第九屆民進黨不分區立法委員

假設問題真的越來越嚴重,其實犯罪也只能嚇止,譬如建立懲罰、求償機制。而所有利害相關人,都必須一起分擔防護責任。也就是,除了對製作假影片罪犯的建立懲罰機制,也應要求平台對於在網路上分享、傳閱假影片的情境,提供用戶糾舉的機制等。或是讓訊息的來源「可責」,例如讓投放社群平台的廣告,能被辨識、可追溯等。因為這種問題,其實影響最大是在於「短短時間內,散播錯誤訊息給非常多人」。最短時間內...

question
未來世代可能會逐漸覺得「影片中臉被調包」並不可怕,像當前社會習慣了假照片。但產業是怎麼看待?如何因應科技犯罪?
Google 台灣

Google 台灣

「深偽」是一種新型態的媒體操縱(media manipulation),但我們並不是第一次面臨這種類型的挑戰。我們先前曾遇過的挑戰,包括侵害版權內容(我們已透過 Content ID 來解決)和非正常瀏覽量(我們透過偵測垃圾郵件式的內容來解決)。 同樣的,針對合成的假媒體(synthetic media),我們也正在探索和投資相關解決方案。

隨著「深偽」技術不斷發展...(請登入閱讀更多)

question
除了提供 AI 的解決方案,在未來,科技還能如何幫助媒體,對抗越來越龐大的假訊息?
李健群

李健群

SparkAmplify 創辦人暨執行長

以我們公司來說,對品牌方(受報導的公司、對象)的新聞稿等內容,我們都會去做一些驗證,比如首先會看各種帳號有無認證,盡可能多去做把關,包括從公司的網頁、帳號、Email 信箱等,去做檢查。對媒體的部分,其實我們可以提供相關產業分析,畢竟台灣的媒體,在接觸國外的產業訊息來源比較有限,可能會缺少較好的路徑。那我們希望,藉由整合國外媒體觀點,讓好的、正確的內容,回歸到前線內容製作者身上。例如在研究最近熱門話題 metaverse 趨勢時...

此次與談人

Google 台灣

Google 台灣

TikTok

TikTok

楊少夫

楊少夫

電通行銷傳播集團 智庫負責人

吳芃

吳芃

陽獅 Digitas 方案規劃副總監

余宛如

余宛如

桃園市政府資訊科技局 局長/第九屆民進黨不分區立法委員

李健群

李健群

SparkAmplify 創辦人暨執行長

延伸閱讀

傷害與治療一線之隔,Deepfake 如何替未來醫療鋪路?

2021 年台灣出現了首例 deepfake 換臉犯罪,多位知名人士的頭像被深度偽裝於高度逼真的色情影片中,甚至總統人像也被移花接木,涉及國安及犯罪。影片是假的、但傷害是真的,deepfake 真的這麼壞嗎?其實,也有善的應用。

2022-04-13 10:00:00

「用 AI 反制 AI」科技破解 Deepfake 可行嗎?

2022 年 2 月底爆發俄烏戰爭,不到一個月內,網路上就流傳一則烏克蘭總統澤倫斯基呼籲該國人民投降的影片,不久後即被發現此為深偽(deepfake)技術製造的影片。此類事件在過去幾年出現頻率日趨密集,究竟現在的科技能否反制這類非法行為?

2022-04-19 10:00:00

Deepfake 技術如兩面刃,該被監管嗎?

深度偽造(Deepfake)技術應用普及,有可能干擾社會穩定嗎?若在總統大選期間,候選人惡意以深度偽造技術,所做的影片散布不實消息,是否侵害了人民選擇最佳候選人的能力?當「眼見不再為憑」的威脅日增,深度偽造的應用是否該被監管?

2022-04-20 10:00:00

時間標記

EPEPISODE # 旭沙龍-張育寧時間

EP #