送禮物 訂閱
傷害與治療一線之隔,Deepfake 如何替未來醫療鋪路?

傷害與治療一線之隔,Deepfake 如何替未來醫療鋪路?

Apr 13, 2022

2021 年台灣出現了首例 deepfake 換臉犯罪,多位知名人士的頭像被深度偽裝於高度逼真的色情影片中,甚至總統人像也被移花接木,涉及國安及犯罪。影片是假的、但傷害是真的,deepfake 真的這麼壞嗎?其實,也有善的應用。

# 科技是中立的 # 善惡的定義在於人類如何使用 # 只要有數據萬物都能重製的 Deepfake # 實現與逝者再見的可能

王縈緹

王縈緹 / 採訪編輯

採訪寫作

陳卓君

陳卓君 / 副總編輯

審訂

圖片來源 - Pexel

questionquestion

此次與談人

Leoniek van der Maarel

Leoniek van der Maarel

荷蘭 Deepfake 悲傷治療師/心理學家

蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

蘇益賢

蘇益賢

初色心理治療所臨床心理師暨副所長

發生什麼事?

多數台灣人對於 deepfake 一詞的了解,是從許多事件帶來的負面影響開始認識,例如 2021 年的網紅換臉謎片事件, 成了台灣大眾對於 deepfake 的第一印象。

  • 其實早在 90 年代,西方世界就已開始進行開發 deepfake 技術。最初用於影視產業,在電影配音中,讓演員的嘴唇動作能夠與不同的配樂同步,使用現有素材,自動創建出一個演員從未真實說話的新影片。(HistoryofInformation
  • 現今 deepfake 技術則被濫用在情色以及政治上。2018 年,比利時政黨發布了一段前美國總統—川普呼籲比利時退出巴黎氣候協定的影片,而這段言論卻是川普從未發表過的。deepfake 助長了在網路世代充斥的誤導性影片,若人民的媒體識讀素養不夠,也可能影響選舉的公正,危機與傷害不可忽視。(Politico
  • Deepfake 技術目前所呈現的多是負向影響,但實際上它並不具有先天的破壞性,那麼,該如何延續原本好的初衷呢?我們可以從與民生最為相關的「醫療」看起。

什麼是 Deepfake ?

「Deepfake」是英文「deep learning 深度學習」和「fake 偽造」的組成詞,指基於人工智慧的人體圖像合成技術的應用。此技術利用 AI 來進行判別與雙向的學習,達到影像、身份、聲音的虛擬複製,只要有足夠的數據庫,便可深度偽造出擬真的物件。

我們可以從與民生最為相關的「醫療」看起


用 Deepfake 進行治療?

只要有數據,幾乎任何影像、聲音、行為,deepfake 都能將它栩栩如生的再製出來。科技是一項中性的工具,好壞在於人類怎麼去使用, Deepfake 就為醫療保健帶來了新的可能性。

  • 疫情下人們對於「視訊醫療」的需求大幅提升,當部分患者只是例行拿藥、前期的問診、常態性的關懷訪視時,可用 Deepfake 技術搭配預錄的診斷回覆,實現了多重問診的可能,也提升了看診時的真實接觸感。(詳見文末中成大社科院院長 蕭富仁訪談)
  • 除了身份與聲音,它甚至可以創造虛擬的身體替身。deepfake 深度偽造出一個完全虛構的個體,運用真實的身體數據進行測試和實驗,模擬出醫療行為下,患者將有甚麼反應,從而降低醫療風險,避免直接地將患者暴露於危險之中,有助於醫療的決策。(世界經濟論壇
  • 你看過 2015 年 Netflix 黑鏡影集中的《我會回來》嗎?該劇描述著 AI 讓我們獲得,與逝去親人再次見面的機會。而現今,deepfake 著實的實踐了這樣的電影情節,將其應用於「心理治療」中更有意想不到的結果。(Flatpackfestival

    • 當一個正在經歷思念的人,出現不符合過去生活角色的行為時,原本只是不適應親人離世的反應,便有可能轉變為「症狀」。在沒有精神疾病史的前提下,可考慮患者對於 deepfake 療法的需求性。
    • 該療法旨在幫助患者找回正向的調節,在虛擬世界中,說出那些來不及說出口的再見、完成那些來不及的承諾,為關係畫下句點,有助於撫慰身心靈的平靜。而「仍舊可以隨時與逝去親人聯繫的心理建設」,也讓患者獲得安全感。(詳見荷蘭 deepfake 悲傷治療師/心理學家 Leoniek van der Maarel 訪談)
    • 滿足回憶的同時,加上療程想要給予的訊息才是關鍵。如:足不出戶,是經歷悲傷的患者常有的症狀,deepfake 重現與親人逛街的情景,並製造出真實出門的感受,在不知不覺中給予引導,走出自我封閉的空間。(詳見文末中成大社科院院長 蕭富仁訪談)


目前發展的困難

水能載舟,亦能覆舟,deepfake 的「弄假似真」並非問題所在,閱聽者缺乏自我辨識的能力,「不辨以假亂真」才是將來的隱憂。未來的世界,眼見不一定為憑,在技術、法規、政策都不純熟的狀況下,deepfake 醫療勢必也會延伸出其他層面的問題。

  • 加劇心理創傷:若操作不適當,患者可能會認不清現實,只想透過 deepfake 來維持逝者的生命,反而會過度成迷於虛擬世界中,因此在治療時醫療師的從旁觀察、引導及監督極其重要。Beelde&Geluid
  • 隱私權的管理:執行過程中最常備受質疑的是「倫理」的部分,「要如何獲得已逝親人的同意使用肖像權?」、「該怎麼管理與受試者互動的那一個虛擬世界?包含人、社會、家庭與使用的空間。」、「當測試結束後,數據及被曝露出來的群體關係,該歸誰處置?」,這些都是現階段尚未獲得解決的問題。(CCBJ
  • 大數據的缺乏:一個擬真的 deepfake 應用必須仰賴全面性的數據,如:不同背景、光線、角度、經過樹下的影子、太陽光照、大樓反射時,每個日常下的光線都會有所變化。除了公眾人物外,要搜集到一般民眾如此完整的數據庫是非常困難的,這也是為何在醫療應用上,始終還有很長的路要走。


未來會如何?

Deepfake 技術讓重製任何景象、人物、聲音都不再是問題,但此項技術應用,牽涉到更多的道德層面和不確定性,若法規與制度跟不上,未來的網路生態將可能變得無法想像。

  • 當我們不能再全然相信視覺體驗、網路媒體不再具有公信力時,人與人之間的信任制度是否也會間接被破壞了呢?我們不該是被動的消費者,不盲從、培養被欺騙的防禦力,是我們可以做的,以正面的心態面對 AI 浪潮。(Liebertpub

人們使用 deepfake 進行心理治療的實際效果如何?當受試著出現什麼行為時,可能代表其不適應這樣的療法?請看《旭時報》與專家們的深度對談。

questionnaire questionnaire
questionnaire questionnaire
questionnaire questionnaire

深度對談

question
question
Deepfake 已開始應用於醫療之上,有什麼樣特別的案例應用嗎? 3 則對談comments 2y
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

目前普遍最常見的應用是「視訊醫療」,當一些患者只是例行拿藥、前期的問診,或是需要常態性的關懷訪視時,便可用 deepfake 的技術搭配預錄的方式,做標準式、問答式的互動,更可實現多重問診的模式,與病患對話的再也不是單純的一張照片,取而代之的為醫生的動態影像,得以提升看診時的真實接觸感;第二則是運用在「創傷後症候群」的治療,在患者突破不了某些情境時,如:曾受過侵害而恐懼、過度沈浸在對離世家人的想念等情況下,某些案例經過專業醫師評估後,也可嘗試 deepfake 的治療方式。其實不只醫療...

2y

我對於這則留言有疑慮
蘇益賢

蘇益賢

初色心理治療所臨床心理師暨副所長

將人工智慧、AR、VR,乃至於 deepfake 技術應用於心理治療領域,目前仍屬起步階段。以國外為例,目前比較多團隊是將這類科技應用於焦慮症患者身上,如讓特定恐懼症(specific phobia)的患者在治療師引導之下,以這種擬真技術去暴露(exposure)、面對患者內心過度擔心與害怕的情境。過往這類暴露技術可初分為「實體暴露」,意指去面對「真實」的害怕情境;以及「想像暴露」,根據患者內心的想像、創造出的害怕情境。這類新興技術,除了提供另一種暴露的可能性之外;針對部分較難以實體暴露的情境,也幫上了不少忙。

2y

我對於這則留言有疑慮
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

生活中也有許多 deepfake 的善應用,網路的普及化以及 3C 的優化,人們的生活習慣已經改變,
2y

我對於這則留言有疑慮

question
運用深偽技術搭配 VR,實現再次見到去世親人的可能,這樣的治療適用於什麼情況的患者? 4 則對談comments 2y
Leoniek van der Maarel

Leoniek van der Maarel

荷蘭 Deepfake 悲傷治療師/心理學家

這個療法適合任何想念已故摯愛之人的人,特別是在關係之間有留下「遺願」或者「承諾」的情況。 但大多數的受試者願意接受此治療,大多希望可以再次見到家人、與他們聯繫,或者嘗試詢問逝去的親人:「現在在哪裡?」、「臨終前是否害怕」、「身體是否還有病痛」等問題,其實,最終的目的都是為了滿足心中的思念。

2y

我對於這則留言有疑慮
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

這樣的醫療模式並不適合每個個案,但對於親人去世已過 3-6 個月,仍無法讓日常生活回到正軌的人或許有些幫助,利用「再呈現」的方式,給予受試者「親人仍舊在身邊」的關愛感受,引導他釋懷,並接受親人已不在的事實。治療的前提還是有很多的條件必須評估,若受試者相當依賴親人的存在,或者經常專注於敘述兩人相處的情境,以及懷念的過往時,多少可以設計這方面的刺激,簡單來說就是讓他重溫一些情景,但必須是適度的,並不是只要重現當初的情境即可,主要目的非著重於緬懷親人,最重要在於符合療程的核心重點,也就是...

2y

我對於這則留言有疑慮
蘇益賢

蘇益賢

初色心理治療所臨床心理師暨副所長

倘若放下「症狀」二字,我們不妨先思考:「有機會能再次見到去世的親人」,會對大眾有幫助嗎?會有幫助的原因是什麼?誰希望能獲得這樣的體驗?此外,又可能會造成哪些潛在的負面效果?以處於悲傷之中的喪親者為例,再次見到去世親人,可能會引發當事人的情緒反應,在未經妥善處理的情況下,可能會影響到自然悲傷復原的歷程。但若能謹慎使用,輔以這類科技引導患者,讓來不及與去世者好好道別、好好說再見的人,把內心的遺憾表達出來,亦可能對於悲傷的撫慰有所助益,因此應用之前的謹慎評估是非常重要的。

2y

我對於這則留言有疑慮
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

「輔導受試者在經歷失去親人的背痛後,找回正向的心理調節。」讓他滿足懷念回憶的同時,也加上我們想要給予
2y

我對於這則留言有疑慮

question
是否有指標得以判斷患者是否適合這樣的療法?當受試著出現什麼行為時,可能代表其不適應這樣的療法? 3 則對談comments 2y
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

可以透過專業醫師或心理師評估與衡量,或許可以由兩大方面做評估,首先最基本的是出現:封閉自我 3-6 個月以上、重複的說明需要某個人、不斷的繞圈子,所有的話題都停留在那位已故親人等情況;第二,經過醫生及周遭的親朋好友觀察,這個人在經過悲痛後,行為不符合過去生活的角色,或者偏離社會的普世價值,讓原本只是一種不適應親人離世的反應,轉變為「症狀」。當出現以上兩種情況時,可考慮患者是否對於 deepfake 的醫療方式有需求。

2y

我對於這則留言有疑慮
Leoniek van der Maarel

Leoniek van der Maarel

荷蘭 Deepfake 悲傷治療師/心理學家

有的,首先在荷蘭我們不會將這群「經歷喪親之痛」的人們視為患者,而受試者若有精神疾病史,或可能患精神病,建議最好不要使用 deepfake 療法。 但目前還未研擬出指標。

2y

我對於這則留言有疑慮
蘇益賢

蘇益賢

初色心理治療所臨床心理師暨副所長

心理師在考慮應用這類技術輔助治療之前,可能要考量不少因素如:患者疾病屬性、疾病目前病程、患者的現實感、患者對於這類技術的使用意願(如:想法與潛在擔心)、心理師對於這類技術的了解程度、目前研究資料是否支持應用後的療效、新興技術對不同疾病、不同人格、不同族群等之潛在影響⋯⋯等。這類提問仍待未來更多資料提出,與相關倫理準則的完善訂定後,實務工作者會更容易去判斷,患者是否適合接受這類輔助治療。

2y

我對於這則留言有疑慮

question
人們使用 Deepfake 進行心理治療的實際效果如何? 1 則對談comments 2y
Leoniek van der Maarel

Leoniek van der Maarel

荷蘭 Deepfake 悲傷治療師/心理學家

據我在治療悲傷 22 年的經驗來看,那些真正體驗過此療法的人,都認為身心靈獲得了更多的平靜與安心,受試者也認為「仍舊可以隨時與逝去親人聯繫的安全感」幫助他們很多。有些人因為這樣的療法從而獲得新生,因為他們說了那些來不及說出口的話,甚至也能從逝去的人口中聽見自己想聽的話,如:「對不起、謝謝」等,彌補需要被治癒的部分,為關係劃下一個美好的句點。

2y

我對於這則留言有疑慮

question
台灣是否已有類似的研究與應用出現?若有的話成效如何? 2 則對談comments 2y
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

以台灣來說,我目前只有找到一份學術期刊是關於使用 deepfake 技術加強「醫病關係」的應用,由此可見其實這樣的醫療方式,在台灣發展依舊還有很長一里路,當然這牽涉的層面很廣泛,不論技術、道德、法規政策上,都尚未訂定完善,但是可以看到台灣在 VR、AR 上的應用相較就成熟許多。

2y

我對於這則留言有疑慮
蘇益賢

蘇益賢

初色心理治療所臨床心理師暨副所長

目前這類技術於心理諮商的應用,多半是針對如創傷後壓力症候群(PTSD)、恐慌症(panic)、恐懼症(phobia)、社交焦慮(social anxiety)等主題為主,在外國已有不少研究發現這類技術於心理健康、心理治療的效果。台灣目前在此領域仍在起步中,不過若是以 AI 為基礎,已開始有不少新型的嘗試,如有團隊正在努力打創造「華人版心理治療聊天機器人」;政大陳宜秀老師帶領學生團隊黃勇偉、蔡沐橙,以虛擬實境技術,讓一般民眾更容易同理患者的感受,如自閉症患者的感覺刺激超載是怎樣的感受?憂鬱者的憂鬱情緒是怎樣的狀態等。可見這類技術除了直接應用在患者之外,對於醫療教學與訓練亦頗具潛力。

2y

我對於這則留言有疑慮

question
Deepfake 運用在醫療時會遇到什麼困難?對病人是否有何風險呢?目前有解決的方案嗎? 4 則對談comments 2y
Leoniek van der Maarel

Leoniek van der Maarel

荷蘭 Deepfake 悲傷治療師/心理學家

我們在治療的過程中目前還沒有遇到什麼大問題,我想這也是因為此療法目前處於起步階段,正在使用的是「非主流」的技術。 一般人或者報章雜誌對於 deepfake 治療方式都有所遲疑,認為我們可能反而會讓受試者更陷入其中,無法幫助人們接受愛人的逝世,但這是因為會有這些想法的人,並無失去過親人的經歷、也並無真實體驗過此療法,所以他們才會不知道經歷悲傷是怎麼回事,才會有這些反對的聲浪。

當然,執行的過程中還是會遇到一些「倫理」的問題,如:無法取得逝者對於這項療法的同意,但我們借助的是一種治療悲傷的媒介,即意旨 deepfake ,精神是有自由意志的,對於受試者來說,若逝者真的不同意且不想聯繫,那麼測試的條件也不會成立。對患者來說,我們必須去掌握的最大風險在於...

2y

我對於這則留言有疑慮
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

一個高度擬真的人臉需仰賴電腦的視覺技術,如在不同背景、光線、角度、經過樹下的影子、太陽光照、大樓反射時,每個日常情況的臉部及身體的光線變化都不同,因此建構自然的動態影像需要達到非常多的條件,缺乏強大的臉部數據資料是目前技術面上遇到的困難。除此之外,心理層次的輔導或修正在此高解析,且相似度高的技術協助下,所產生的視覺認知功能的調適、專注力與記憶力的誘發、情感的反射或投影、事實與虛靜的判斷與決策等,都會受到很強的改變,也需要進一步研究去探討未來 deepfake 技術的實行性。

2y

我對於這則留言有疑慮
蘇益賢

蘇益賢

初色心理治療所臨床心理師暨副所長

在應用這類技術的過程中,倘若當事人出現任何不適反應,對於這些不適反應的研究是重要的,不管是這類擬真刺激對人們心智造成的影響,如情緒反應、現實感判斷、認知衝擊、對人際關係的影響等。同時,事先與使用者詳細告知可能的幫助與潛在風險,這些配套的實務作法與倫理守則,目前其實都尚不明朗,未來仰賴研究者與實務者彼此攜手,更需要心理健康專業與人工智慧專家的跨界合作。

2y

我對於這則留言有疑慮
Leoniek van der Maarel

Leoniek van der Maarel

荷蘭 Deepfake 悲傷治療師/心理學家

受試者可能會太沈浸於虛擬中,並開始相信逝者仍舊在眼前,而不願意接受親人已故的事實,就如同 Netfl
2y

我對於這則留言有疑慮

question
這樣的治療方式否反而會加重病人心理的負擔,導致久久走不出傷?要如何去避免呢? 4 則對談comments 2y
Leoniek van der Maarel

Leoniek van der Maarel

荷蘭 Deepfake 悲傷治療師/心理學家

其實我們都有實現任何不可能的自然能力,也就是說就算是再困難的目標,意志力都可能幫助你達成,舉例來說,一個仍舊沈浸在悲傷中的人,人們可能會對他說:「你應該把房子裡逝者的照片移走,否則你永遠走不出來。」,即使這個人知道這樣的道理但他依舊做不到,這就是因為他還未準備好,倘若當這個人準備好要放下時,照片便會自然消失。我相信使用 deepfake 治療悲傷是一樣的道理,只要受試者有求生的意志,心底有準備要面對一切時,治療便會走向良性的結果,因為我們每個人最終都希望能好好的繼續生活。

2y

我對於這則留言有疑慮
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

由於 deepfake 應用在醫療方面的發展都還不成熟,我認為效果必須分階段完成,也就是說如果應用在難度較低,如「視訊問診」等醫療方式時,是可以良性進行的;但如果是應用在難度較高,如要完整重現逝去親人的一切,便更需要全面性的臉部數據才能達到,探討的層面也必須注重相關性的影響。再者,其實不只人權、個人的肖像使用權必須被重視,與受試者互動的那一個虛擬世界,包含人、社會、家庭、使用的空間,這些群體關係都會被曝露出來,便會延伸出許多管理的問題,如資訊安全、人身安全等等...

2y

我對於這則留言有疑慮
蘇益賢

蘇益賢

初色心理治療所臨床心理師暨副所長

我認為各種形式的治療方式,或多或少都存在著風險。是故,事前針對病患進行詳細的心理衡鑑、評估,與患者、家屬的溝通,討論相關利弊風險是基本的流程;此外,治療者對於這類技術潛在效益與風險的認識、其他團隊新發表的突破,不管是量化的研究數據或質化的個案報告等,也都必須持續更新。對這類技術保持實用的開放性,也不忘敏銳地評估其潛在風險。我認為實務工作者若能以這種心態探索這類技術,將能有效減少患者受傷害的機會。

2y

我對於這則留言有疑慮
蕭富仁

蕭富仁

成功大學心理系特聘教授兼社科院院長

目前相關的法規都尚未成熟,數位時代下網路的使用權益,是近幾十年全球一直在談的議題,初步的雛形也已成形
2y

我對於這則留言有疑慮

分享 Share シェア

facebooklinetwitterlinkedin

延伸閱讀 Read more

Deepfake 療法—該如何處理喪親之痛?

Deepfake 療法—該如何處理喪親之痛?

如何在失去親人的悲傷中繼續前進?使用深度偽造來幫助失去親人的人,是否與看照片緬懷非常相像呢...

Black Brick

超越死亡的限制?用 Deepfake 療法和永生

超越死亡的限制?用 Deepfake 療法和永生

死亡一直是人類神秘的終結,但跟隨科技的進步,技術也開始創造不可能,用 deepfake 陪伴悲傷的過程,讓我們貼近逝者的數位五官並與之交談...

YouTube

什麼是 Deepfake,該如何辨別它?

什麼是 Deepfake,該如何辨別它?

AI 生成的虛擬影像變得越來越普遍和真實,這正是我們該正視這個議題的原因...

衛報

時間標記 Timestamp

EPEPISODE #旭沙龍-張育寧時間

EP #
邀請已成功寄出 Sucessfully sent