AI換臉製作謎片海撈1338萬119人受害 YouTuber小玉起訴

百萬訂閱YouTuber小玉(左)涉嫌利用AI技術DeepFake軟體,將多名網紅和民代的臉合成在謎片女優身上,靠換臉謎片牟利,遭新北地檢署起訴。(本報資料照)

26歲百萬訂閱YouTuber小玉(本名:朱玉宸)涉嫌利用AI技術DeepFake軟體,將立委高嘉瑜、高雄市議員黃捷、藝人雞排妹、網紅「白癡公主、奎丁、蕾菈」等名人的臉合成在謎片女優身上,製成色情影片,不法牟利1338萬餘元,受害者119人,新北地檢署今依涉犯妨害風化、加重誹謗、個資法等罪起訴小玉和2名搭檔莊男。

去年7月起,有數名網紅性愛影片在網路上流傳,影片都來自「臺灣網紅挖面」推特粉絲團,檢警調查是小玉等人透過DeepFake技術,將網紅、藝人等臉部圖像移植到色情AV女優身上,並從中販售得利。

檢警追查發現,許多粉絲爲能收看網紅性愛影片,支付數百元不等的會費給小玉,加入他經營的私密聊天羣組,線上瀏覽完整的色情片,且私密聊天室會不時舉辦「票選」、「集資」活動,選出某位網紅當被害人,再由小玉製作性愛影片上傳牟利。至於先前媒體報導曾提及,臉部遭盜用的唯一男性「館長」陳之漢,則非此案受害者。

去年10月檢警發動搜索,小玉訊後以50萬元交保,但因繳不出交保金,降保爲30萬元,其被扣押的賓士休旅車,去年12月由行政執行署新北分署以195萬元2000元拍出。

而總統蔡英文也是這波換臉潮的受害者,去年也出現她戴上兔耳朵等詭異影片,影片雖非小玉製作,但當她得知小玉靠着換臉謎片賺取暴利後,隨即在臉書譴責科技犯罪,強調「我們不能坐視這樣的事情發生」,將會重新盤點法規,研擬推動修法工作,也呼籲網路平臺業者,阻止錯假影像傷害無辜的人。