網信辦擬發佈AI“內容水印”要求：大廠試水中，中小廠有挑戰

21世紀經濟報道記者肖瀟 北京報道

互聯網上濫用AI“以假亂真”的內容越來越多，一條普遍認同的應對方法是，明確表明內容由AI生成，防止被誤認爲是真實內容，類似於在紙幣上印防僞水印。

9月14日，網信辦起草的《人工智能生成合成內容標識辦法(徵求意見稿)》（下稱《AI標識辦法》），就專門針對AI內容標識，開始向社會公開徵求意見。

與之配套的強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》徵求意見稿（下稱《AI標識國標》），也在當天由全國網安標委發佈，擬在發佈後6個月正式實施。

一位緊跟本領域監管動向的專家向21記者透露，深度合成問題是有關部門目前的關注重點，內容標識更是其中的關鍵點。雖然國家有相關標準和規定，各個大平臺也有各自實踐，但始終沒有統一明確的規範。而且內容標識是一個最重要的AI治理工具，也是全球監管共識。這是新辦法起草的大背景。

不過，多位大模型業內人士表示，AI內容標識仍面臨成本高、技術不夠可靠的挑戰。21記者從業內瞭解到，一些大廠已經率先推進AI數字水印技術，小廠的壓力更大，第三方網絡安全公司或能從中受益。

《AI標識辦法》專門規範如何標識AI生成的內容，一共十四條，最大特點之一是顆粒度明顯變細。

此前，我國已經有《網絡安全法》《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》四部法律法規規範，對AI生成內容作出約束，但在內容識別上的要求較爲寬泛。

比如，針對AI生成服務的提供者，《互聯網信息服務深度合成管理規定》第十六條規定， 應當採取技術措施添加不影響用戶使用的標識。第十七條規定，可能導致公衆混淆或者誤認的，按要求顯著標識出AI生成。

而最新的《AI標識辦法》則明確區分了顯式標識和隱式標識：前者指的是在生成內容或者使用頁面，能被用戶肉眼看到的標識；後者指在內容文件數據中裡的隱形標識，不影響用戶看到的畫面或文字，但能將生成合成內容屬性信息、服務提供者名稱或編碼、內容編號等製作要素信息嵌入到文件中。

配套的《AI標識國標》進一步細化了不同場景的要求。例如如果是視頻，起始畫面需要添加提示文字，而文本要添加提示文字或者AI角標。

“哪個主體，在哪些情況下，添加何種類型的標識，是不是具有特定的合規義務，這種系統性規範我覺得很有必要。” 對外經濟貿易大學法學院教授張欣告訴21記者，添加了標識後，纔可以從終端的角度，讓用戶知道自己接收到的內容到底是由人生產的還是模型生產的。這種信息區分原則，是互聯網信息內容治理一個較爲基礎性的原則。

張欣表示，《AI標識辦法》不僅僅是技術治理工具，也爲不同產業主體規定了較爲清晰的合規義務，銜接了此前的算法備案、安全評估等治理工具。

此前，標明AI內容的責任更多放在技術提供者身上，也就是要求在下載、導出內容時標明AI生成。而《AI標識辦法》對傳播平臺提出了覈驗要求，如果核驗發現文件元數據中有隱式標識，平臺要在發佈內容周邊需要添加顯著的提示標識，明確提醒用戶該內容屬於生成合成內容。

蘋果商店、安卓應用商店等互聯網應用程序分發平臺，在APP上架或上線審覈時，也需要覈驗提供者是否按要求提供了AI內容標識功能。

《AI標識辦法》還重申了一些此前的要求，服務提供者在履行算法備案、安全評估等手續時，要提供AI標識的相關材料。用戶上傳時，則應當主動聲明並使用平臺提供的標識功能。

另一方面，張欣向21記者提到了AI標識的兩個挑戰：一個是對內容的展示度和準確性可能帶來一定影響，而且即使有了AI標識，仍然可能被篡改；一個是企業的合規成本和技術實現成本需要綜合考慮。

21記者梳理髮現，國內大型互聯網平臺的AI顯式標識已經基本成形。小紅書、B站、微博、抖音、快手都增加了AI生成內容的聲明，要求創作者主動勾選，以避免誤導觀衆。小紅書團隊此前對21記者表示，AI 生成內容的真實度和擴散程度不斷提高，平臺主動的AIGC鑑別能力成爲剛需，小紅書會用算法主動監測疑似內容，並打上“疑似AI內容生成”標識。

但在隱形標識方面，目前能推進的平臺有限。業內公認的棘手之處在於，還沒有出現一個完美的隱形水印技術。

去年十月，美國馬里蘭大學計算機科學教授Soheil Feizi測試了AI“數字水印”的技術可靠性，發現這一技術可被輕易破解。他的研究團隊輕鬆避開了現有的水印方法，並發現在非 AI 生成的圖像上添加“假水印”更爲容易。同年，另一項美國加州大學和卡內基梅隆大學的研究也映證了這一結論。

即使是科技巨頭谷歌推出的AI數字水印工具SynthID，其在發佈時也寫道：“並非萬無一失”“並不完美”。谷歌的看法是，AI數字水印可能很難抵禦高級攻擊，但至少是解決方案的一部分，能捕捉一些低級的AI造假事件。

去年5月，抖音發佈了《關於人工智能生成內容標識的水印與元數據規範》，希望在相關圖片和視頻元數據中寫入信息，不同的平臺及工具能夠互認標識元數據，達到通用識別的效果。目前來看可能還只是一個美好的倡議。

近年已有一批國內公司佈局數字水印業務，大多爲網絡安全公司，或能從中獲益。A股方數字水印相關概念股有20餘隻，包括電科網安、北信源、鴻博股份、漢儀股份等。不過數字水印目前市場規模較小，在相關公司的業務營收佔比也還較小。