18+

小玉Deepfake換臉色情片風暴 YouTube官方不再沉默:無限期停止頻道營利資格!

小玉 YouTube 截圖
小玉 YouTube 截圖

小玉 Deepfake 風暴,YouTube 官方不再沉默:無限期停止頻道營利資格!


小玉利用 Deepfake 技術換臉引發社會關注,過去以整人、大挑戰作為題材經營 YouTube 頻道,累積到 140 萬訂閱數,雖然今年 4 月,小玉宣佈從 YouTube 引退,頻道也有一年時間未更新影片,而身為前 YouTube 創作者,對於小玉傷害社會之行為, YouTube 官方今稍早也針對事件發表聲明。

YouTube 表示:「由於小玉違反了 YouTube 創作者責任政策,我們已經無限期停止他頻道的營利資格。如果我們發現創作者在平台以外的行為傷害了 YouTube 的使用者、社群、員工或生態圈,我們會採取行動保護 YouTube 社群。在此案例中,創作者使用了 Deepfake 技術傳播色情內容。」

上個月警方則透過 Twitter 免費色情換臉短片,循線追查到 6000 人的 Deepfake AI 換臉色情影片 Telegram 群組,在群組入會費 400 元,其中最大的賣點是能製作「換臉」影片,收費約在 300-3000 元間,此不法行為讓他過去一年多非法獲利超過 1 千萬新台幣,成為轟動社會的新聞,也讓無所不在的數位性暴力的議題再度浮出成為各界討論的焦點。

網紅「小玉」朱玉宸用AI換臉技術製作名人色情影片,刑事局檢視發現他將藝人「雞排妹...
網紅「小玉」朱玉宸用AI換臉技術製作名人色情影片,刑事局檢視發現他將藝人「雞排妹」鄭家純(左、右)臉部,移植到成人影片女優(中)身上。記者李奕昕/翻攝

本次事件後,政界不分藍綠、不分黨派地譴責數位性暴力,包含總統蔡英文發文表示意見,而 國民黨洪孟楷時代力量王婉諭都在 Facebook 上支持推動立法,而今日內政部長徐國勇出席立法院備詢前,接受媒體訪問是否一個月內修法,徐國勇回應,法務部將會召集相關單位,警政署也將參與討論,也會學習其他國家採取的做法,更多借鏡討論,表示:「一定會立法」!

《本文作者Anny,原文刊登於合作媒體INSIDE,聯合新聞網獲授權轉載。》

本日熱門 本周最熱 本月最熱