深度偽造（Deepfake）技術掀起AI大亂鬥
AI人工智慧越來越厲害，但是這類科技所帶來的問題卻也越來越棘手。最近一種號稱「深度偽造（Deepfake）」的AI技術，可以仿照名人嘴型、臉部表情，甚至是將色情片男女主角身體移花接木，製作足以亂真的影片，達到惡作劇和毁謗的目的。與此同時，也有人積極研發AI技術來偵測深度偽造，未來恐怕在網路世界會出現「AI鬥AI」的場面。
Deepfake是英文「deep learning」（深度學習）和「fake」（偽造）混合而成的新名詞，係指藉由人工智慧去抓取特定對象大量的照片或影片，進而組合而成的人體圖像或影像。過去還一度被稱為「人類影像合成技術（Human image synthesis）」。
Deepfake的技術在2017年就已出現，而最近具有這類自動化影片和音頻的編輯工具越來越多，加上「生成式對抗網路（GAN）」和社群媒體，不斷有人上傳被篡改內容的影片，也導致假新聞和有蓄意造假的錯誤資訊經常出現。
Deepfake是利用AI，透過大量抓取影片混合、剪輯而成，比較一般的作法除了把兩個不同人的臉孔互相交換（如圖一）；其次像是製作出一段美國前總統歐巴馬的影片，講出一段他從不曾說過的話，而觀眾卻從他的嘴型和臉部表情，卻完全抓不到破綻（如圖二）。或者讓俄羅斯總統普丁，可以在影片上，有著美國總統川普的說話腔調和表情，你也看不出來有絲毫怪異之處。
而最近網路上就不斷有人轉傳台灣知名女藝人下海拍A片的影片，不少看過的網友，甚至驚訝「好像真的是她！」。但其實這是被韓國AV影視業者利用Deepfake給「借臉」。事實上，也有人擔心Deepfake影片可能被用來製造假新聞、煽動群眾或激化社會衝突。
對此，微軟和臉書發起名為「深度偽造偵測挑戰（Deepfake Detection Challenge）」大賽，投入總獎金上千萬美元鼓勵辨識Deepfake影片的技術開發。
Pinscreen創辦人，也是南加州大學助理教授黎顥( Hao Li)，就曾在美國CNBC的《Power Lunch》節目上，提出Pinscreen推出的軟體，可讓用戶「即時」產生自己的3D虛擬分身來玩VR遊戲和線上購物。而深度偽造影片製作技術對娛樂業和服飾業好處多多，甚至還能提升視訊會議效果。黎顥教授認為，與其一味封鎖，更應該做的是發展偵測技術。
本身具有電腦科學博士學位的黎顥認為，依現在技術發展的速度，再六到十二個月，深度偽造出來的影片，將趨近於完美，屆時連電腦也無法偵測是否為偽造。有趣的是，目前許多對偵測技術的研究也不斷出現，有學者準備利用遞回類神經網路來偵測，有的則使用區塊鏈技術來破解。誰贏誰輸，究竟未來會如何演變，讓我們拭目以待。
作者：蘇宇暉（台科大管研所博士候選人）、羅凱揚（台科大企管系博士）
歡迎加入我們的Line@獲取即時訊息！https://line.me/R/ti/p/%40cde8265r
