Telegram群組「台灣網紅挖面」透過向會員收費，「客製化」變臉謎片來販售。警方根據該群組的金流向上追查，發現該群組帳戶為朱玉宸、YouTuber小玉所有，他與公司員工等3人涉嫌以軟體「Deep Fake」來偷取名人的臉，再做成影片售出，時間長達一年多，不法所得至少500萬元以上。警方依散播猥褻物、妨害名譽送新北地檢署偵辦。
高嘉瑜說，隨著AI技術的普及，近期在網上，傳出有帳號在推特上提供眾多「AI換臉」色情試看片，其利用AI Deepfake技術，將網紅的臉「移植」到色情片的AV女優身上，該帳號不僅大量販售換臉色情片，甚至不定期販售素人或名人未經同意外流的性私密影像。
高嘉瑜指出，這些在網路上未經同意而被換臉、製成色情片的受害者將近百人，規模驚人。除了知名網紅、藝人明星，也不乏女性政治人物，這樣的行為早已對女性的名譽造成不可抹滅的侵害，「不管是不是真的，更何況會有很多人認為是真的，這是最可怕的地方。無論如何，沒有人能接受未經自己同意的換臉影片在網路上流傳！」
關於未經本人同意而發布的「AI 換臉」影片，其實就是一種變向散播假訊息的行為，但高嘉瑜無奈表示，目前台灣針對假訊息管制的法規中，卻僅針對災害、食品、傳染病等假訊息才有做特別規範，對於「AI換臉」造假的影片仍無法可管。
此外，高嘉瑜也指出，就個人資料保護法的層面而言，因現行遭「AI換臉」的受害者多為公眾人物，照片等資料取得相對容易，臉部圖像若為合法公開或自行公開，自然也不在個資法保護範疇，最後有可能成立的也僅剩下刑法上的妨害名譽罪。
高嘉瑜說明，網路危害所產生的侵害具有持續性，甚至可能跟隨被害人一輩子，但妨害名譽罪的刑度卻屬相對輕微，因其立法之初，並未考量網路性暴力對被害人所造成的深遠影響，現如今繼續用舊條文來處理新的犯罪現象，顯然有罪責不相當的疑慮。
高嘉瑜舉例，國際間就濫用AI技術換臉的管控，多著眼於「AI技術倫理」的確立以及將其列為「假訊息」予以管制。以歐盟為例，其所建立的「AI倫理指引」中，囊括了諸如影像的使用是否經過當事人同意、使用目的是否符合倫理性、是否落實資料保護措施等，一旦有違反上開規範的情形，行政單位就會即時介入並配合網路平台開罰違規用戶。
進一步說，美國方面則不僅要求所有經過AI換臉技術處理的影像，皆須以浮水印標明影像係經竄改、以文字明示影像經過改動並簡述改動程度，更是直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範！若使用AI換臉技術而有「意圖以性行為與裸體等類似特徵，侮辱或騷擾特定人者」，可處高達5年有期徒刑、行政罰鍰15萬美金、也應負民事上的侵權損害賠償責任。
因此，高嘉瑜也呼籲，未來也將參考國際作法，並建立獨立的網路影像真實性查核單位，提高網路平台對於用戶發布內容之監督責任。此外，應將「AI換臉」的濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任，並於技術層面上，開發相關人工智慧工具以因應之，如美國新創公司Deeptrace已著手研發深度偽造辨識技術，以辨識影片之真偽。
（民視新聞網／綜合報導）
更多新聞： 快新聞／睽違193天「三零」！ 疾管家一張黑板照右下角有亮點 指揮中心曝巧思
