《Deep Fake 正式介入台灣選舉》
1月3日有一個名為「哈囉樓主 Lucid Film」的帳號,上傳了一個使用 Deep Fake (深度偽造) 技術,偽造了吳孟達、周星馳、韓國瑜肖像的影片,在影片裡將台灣總統選舉與地下賭盤進行勾連,甚至預告會有之後的作品。
千萬不要轉傳相關影片!!!
千萬不要轉傳相關影片!!!
千萬不要轉傳相關影片!!!
有興趣的朋友可以先看寶博士葛如鈞的這篇文章:
《深偽新聞: 真實的末日,真相的危機,未知的恐慌 — 一則 Bosstown Dynamics 影片的爆紅啟示》
https://medium.com/@daaab/bosstown-dynamics-5ec23f11316f
「哈囉樓主 Lucid Film」這個團隊,利用人工智慧的自動合成技術,把人臉合成到演員臉上,製造假對話。而我們擔心的是,當演員的身形、聲音、和臉部的合成技術越來越純熟時,人們將越來越難辨識訊息的真假。
更恐怖的是,在這禮拜週末就要選舉的時刻,這樣的合成影片恐試圖透過各種管道 (Ptt、LINE 等) 來滲透全台灣參與地下賭盤的人,進而影響選舉。
兩年就曾經有一段影片,把館長和一位女直播主交換畫面,所有手勢嘴型話語都符合,只是臉和身體換過來。以當時的技術還可以看出一些破綻,但兩年之後技術和運算能力都進步了很多,我們相信要造假影片騙人是很容易的。
現在已經有假訊息泛濫的情形,假影片又來火上加油。我們在此鄭重呼籲:
1. 網友在觀看網路媒體時,已經不再能眼見為憑,必須有所警覺內容可能為合成捏造,要準備進行檢舉及提供給第三方查證中心,千萬不要輕易聽信跟轉傳。假訊息對2018選舉影響已經很大,我們不要再一次讓我們的民主被這種資訊傷害。
2. 事實查核平台目前主要是針對文字資訊查證,我們認為這些運用尖端技術合成的假影片也應一併納入檢查範圍。以目前主要是人工查證的程序來說,執行應該不算難。
3. 無論是 Google、YouTube、Facebook、Twitter、LINE 各種社群平台,應對 Deep Fake 技術開發偵測演算法 [1]。當發現內容是合成的時候,應該要加強標示,甚至下架。
這種惡意的變造實際上已經觸法 (侵害肖像權、散佈不實言論、妨害名譽、意圖使人不當選),請大家提高警覺,一同緊盯假訊息、假影片,守護台灣民主。
[1] FaceForensics++: Learning to Detect Manipulated Facial Images https://arxiv.org/abs/1901.08971 訓練模型資料集: https://github.com/ondyari/FaceForensics
同時也有10000部Youtube影片,追蹤數超過2,910的網紅コバにゃんチャンネル,也在其Youtube影片中提到,...