AI製作“深僞”色情圖像激增，白宮呼籲企業加大力度打擊

據《參考消息》網站25日援引美聯社23日報道，美國政府正在敦促科技行業和金融機構關閉越來越龐大的利用人工智能（AI）製作色情圖像的市場。

報道稱，新出現的生成式人工智能工具可以輕鬆將一個人的肖像轉換成色情圖像，便於這些逼真的深度僞造圖像在聊天室或者社交平臺上傳播。受害者無論是名人還是兒童，都幾乎沒有辦法阻止這種行爲。

美聯社報道稱，白宮於23日發出呼籲，希望企業在立法不力的情況下自願合作，承諾採取一系列具體措施制止有關犯罪行爲。白宮官員表示，希望企業能夠遏制此類未經同意的人工智能圖像（包括兒童的露骨圖像）的製作、傳播以及獲利行爲。

“隨着生成式人工智能的出現，每個人都在猜測第一個真正的危害會來自哪裡。我認爲我們已經找到了答案。”拜登的首席科學顧問、白宮科技政策辦公室主任阿拉蒂·普拉巴卡 (Arati Prabhakar) 說。

一份由白宮授權發佈的文件顯示，美國政府的呼籲對象不僅包括人工智能開發商，還有支付處理商、金融機構、雲計算提供商、搜索引擎和控制移動應用商店內容的“互聯網看門人”——即蘋果和谷歌等決定手機軟件能否進入應用商店的公司。

生成式人工智能的蓬勃發展導致大量深度僞造的色情作品出現，受害者包括一線明星和普通公民。英國《衛報》報道稱，人工智能生成的未成年人圖像和深度僞造作品也在校園中流傳。在美國佛羅里達州，兩名中學生因利用AI製作同學裸照而被捕。目前，美國多個州已通過法律，禁止未經同意利用AI生成露骨圖片。美國司法部則表示，生成深度僞造的兒童色情圖像屬於違法行爲。

另據英國《衛報》報道，兒童安全倡導者和人工智能研究人員警告稱，惡意使用生成式人工智能工具可能會導致僞造兒童性虐待案件的舉報材料激增。2023 年，美國國家失蹤與受虐兒童中心(NCMEC)收到的兒童虐待報告比上一年增加了約12%，部分原因是AI製作的僞造材料急劇增加。該機構表示，這可能將導致舉報熱線不堪重負。