Deepfake 深度造假換臉爭議延燒 立委憂 AI 變造假訊息引發國安危機

發佈時間 2021/10/20 09:20:52
最後更新 2021/10/20 09:20:54

【沃草】記者廖昱涵報導

AI 深度造假技術(Deepfake)合成名人不雅片,引發社會爭議。今(20)日民進黨立委莊瑞雄質詢指出,現行法律對此行為,只能依散播猥褻物、妨礙名譽等罪名判刑,但他認為 Deepfake 技術更涉及國安層次問題,若稍微加工,政治人物沒做過的事、沒說過的話,都可以塞到你臉上,成為崩潰社會信任的假訊息,呼籲法務部要儘速修法、警政署也要加強掃蕩。中國國民黨立委魯明哲則指出,96%換臉影片當事人都不知情,其實國外已研發出成效不錯的追蹤軟體,呼籲警政署編列預算採購,超前部署。

民進黨立委莊瑞雄(攝影/廖昱涵)

民進黨立委莊瑞雄(攝影/廖昱涵)

日前 YouTuber 小玉因利用 AI 深度造假技術(Deepfake)合成名人不雅片遭逮,但刑罰僅 3 年以下引起社會熱議,法務部長蔡清祥已允諾,針對罰則太輕問題,將於一個月內提出修法草案。

莊瑞雄說,近來 AI 技術遭濫用,把名人、影星合成色情影片,這對當事人是很大傷害,但他認為這更牽涉國安問題。他以站在對面備詢的警政署長陳家欽為例,若稍微加工用陳家欽的臉或聲音宣傳毒品、賭博等不是本人意思的影片,或者在選舉期間用政治人物的臉變造,更會影響到選舉,造成社會信任崩潰,若碰到這種情形該如何處理?

警政署長陳家欽回應,現在偵辦都是有檢舉或被害人報案,會主動偵辦。但他也坦言,現在既有法律偵辦,只能從嫌犯的意圖會影響何種個人權益去法辦。「在沒有修法前,只能這樣做。」

莊瑞雄指出,今年不管臉書或推特,都針對深度造假技術做出下架動作。他呼籲警政署,要是查獲就要發布,要讓社會知道嚴重性。否則你沒做過的是、沒講過的話都變你的,對政治人物也是可以一樣塞到他臉上。

莊瑞雄指出,連總統蔡英文也被換臉,這能「孝孤(hàu-koo)」(原指以食物祭逝者,衍伸出「粗俗的叫人拿去吃」的貶義)嗎?這等於公然挑戰公權力,要是行政機關不處理好,「三分真七分假」訊息會讓社會亂掉。他呼籲,法務部要儘速修法、警政署也要加強掃蕩。

中國國民黨立委魯明哲則質疑,面對高科技新犯罪模式,警政署資源夠不夠?能否掌握受害者?

警政署長陳家欽(攝影/廖昱涵)

警政署長陳家欽(攝影/廖昱涵)

陳家欽表示,目前各縣市和刑事局都有專案小組在搜尋,但重點是辨識和鑑識。他說,現在沒有辨識系統,但有基礎技術,也有國內學術單位進行研究,可以協助偵查單位辨識。基礎上,必須先辨識出被害人是被換臉的,然後再進行偵查。他強調,因為這些嫌犯可能在國外,這些網站很狡猾,所以要花時間,要分兩階段進行。

魯明哲指出,歐美國家已經有研發出軟體追蹤,而且聽說用了效果不錯,根據數據指出 96%的挖臉影片當事人都不知情。他建議,若國外有技術,警政署是否編預算採購?既然總統都已經發聲,辨識技術要先行,不然真偽難辨,設備要盡快加強。不要等到未來換臉已經能 APP 化或模組化才來思考應對,應超前部署。

陳家欽回應,目前基礎技術是有,會儘速提升。

中國國民黨立委葉毓蘭則呼籲,AI 深度造假技術與婦幼息息相關。但少年警察隊和婦幼警察隊,在位階上不是很高,要想辦法提升待遇,以免人才流失。內政部長徐國勇答詢表同意,指出他們的確不容易拿到獎勵,因為成果較隱性。

葉毓蘭呼籲,少年警察隊和婦幼警察隊需要久任的專業,可以搭配專業認證,排除 6 年輪調制度,因為他們其實跟轄區沒有太大關係。徐國勇苦笑表示,其實不輪調也會被說話,但他允諾內政部會承擔責任解決。