靠換臉謎片撈千萬 網紅小玉被訴

網紅小玉(右二)利用人工智慧「Deepfake」技術,將藝人、正妹網紅、民代「換臉」合成製作色情影片,並於網路羣組兜售。(翻攝畫面/胡欣男臺北傳真)

本名朱玉宸的26歲百萬訂閱網紅小玉,涉嫌利用AI深僞技術DeepFake軟體,將立委高嘉瑜、高雄市議員黃捷、藝人雞排妹、網紅「白癡公主、奎丁、蕾菈」等名人的臉合成在謎片女優身上,製成色情影片牟利,不法獲利1338萬餘元,新北地檢署16日偵查終結,依散佈猥褻影像、加重誹謗、違反個資法等罪起訴朱玉宸和助理莊炘睿2人。小玉女友因罪證不足獲不起訴。

促成修法最重7年刑

本案去年10月案發後,引發社會譁然,蔡英文總統隨即在臉書譴責科技犯罪,法務部也火速研議修法,並在去年11月將修正草案送交行政院審查。法務部長蔡清祥昨日表示,行政院會已在3月10日通過《刑法》增訂「妨害性隱私及不實性影像罪章」的處罰專章。對製作或散佈他人不實性影像(深度僞造)罪,最重可處5年徒刑,若有意圖營利行爲,刑度提高至7年徒刑,以嚴懲不法。

票選特定人合成性愛片

起訴指出,爲吸引更多粉絲或追蹤者加入與關注,增加網路流量,小玉自2020年7月起,在「臺灣網紅挖面」的推特帳號及粉絲團,上傳並播放片長約30秒的合成換臉謎片,招攬網友加入粉絲團。

2021年2月起,小玉另在YouTube建立「盜臉駭客」頻道,也在頻道上傳及播放合成的換臉謎片,依無限瀏覽不同長度的換臉謎片,向註冊者收取800到1900元不等會員費,另也可單次或集資購買及瀏覽。

檢警調查,許多粉絲爲了收看網紅性愛片,加入小玉經營的私密聊天羣組,線上瀏覽完整的色情片;私密聊天室也會不定期舉辦「票選」、「集資」活動,選出某位網紅後,再由小玉與其助理製作合成性愛影片上傳牟利,犯罪所得1338萬餘元,共有119人受害,小玉也遭到受害人高嘉瑜、黃捷、雞排妹等83人提告。

檢痛批圖私利物化女性

偵查中,小玉在庭訊中坦承犯行,還辯稱只是好玩、想借此累積粉絲數,承辦檢察官黃冠傑痛批,小玉與助理爲圖私利,恣意濫用人工智慧的圖像合成技術,以移花接木方式合成猥褻影片,對被害人造成傷害。且不定時透過網路票選及集資方式,選擇特定女性被害人爲主角製作猥褻影片,物化女性,侵害被害女性隱私權、自主權及名譽權甚鉅,對網路色情及社會風氣也有不良影響,但考量2人犯後認罪,犯後態度良好、均無前科,建請法院妥適量刑。