被Ai造假“賣保健品” 張文宏苦不堪言 打擊AI造假不能只靠技術 還應完善法律規範 | 有一說一

▢賴芳傑

讓張文宏“氣到想報警”的，是幽靈一般的AI造假合成視頻。據中國青年報，有網友發消息稱，“張文宏是不是帶貨了？”視頻中，張文宏在賣一種蛋白棒，家裡的老人信以爲真，已經開始下單了。對此，張文宏的迴應憤怒且無奈。

張文宏表示，“這樣的賣貨賬號不止一個，且一直在變，我多次向平臺投訴但屢禁不絕。很多不明真相的老百姓、特別是有些對AI不是很熟悉的、年紀較大的市民，就很容易相信。我看購買量在不同的地方好像都有不少。我在發現這個事情後立即投訴過那個AI合成的視頻，但他的賬號一直在換，我最後也沒有精力了。這些假的AI合成信息就像蝗災一樣，一次又一次發生，像漫天飛過來的蝗蟲一樣害人。事實上，從平臺投訴結果來看，我覺得最終也難以解決問題。” 對此，上海市消保委針對該事件嚴厲發聲，表示未經當事人授權的AI合成帶貨行爲已經構成了對消費者的欺詐，呼籲監管部門嚴厲處罰。

毫無疑問，不斷迭代升級的AI技術改變着世界，推動着社會的發展進步。但AI的不當使用和涉嫌違法違規的濫用，給我們帶來了困擾甚至是損失和侵害。在AI技術面前，“眼見爲實”“有圖有真相”的常規認知正在被挑戰。低成本的AI圖像生成，成爲一些別有用心之人的造謠斂財工具。除了AI造假帶貨，還有AI換臉詐騙，甚至還有AI換臉“一鍵脫衣”等違法濫用。“魔”高一尺，“道”可高一丈嗎？一些世界領先的科技公司，也在嘗試用AI學習模型利用算法檢測判斷圖像是否有被編輯的痕跡，或者探索基於深度學習的抗編輯視頻水印技術。但是現階段的AI打假尚有侷限，也非常耗時耗資源。

人工智能的造假與打假，將是一場“持久戰”。相比於用“魔法”打敗“魔法”，治理AI造假的底層邏輯，應該是建立保證信息真實的生態體系，完善法律規範，明確技術使用界限與道德。此前，國家互聯網信息辦公室發佈《網絡音視頻信息服務管理規定》，要求網絡音視頻信息服務提供者應當具有與新技術新應用發展相適應的安全可控的技術保障，部署違法違規音視頻和非真實音視頻鑑別技術。在2022年，我國頒佈的《互聯網信息服務深度合成管理規定》就劃定了深度合成技術的使用規範，包括不得利用深度合成服務侵犯他人合法權益等法律規定。相關部門應加快出臺並完善人臉識別數據管理專項法律，規範數據採集、存儲和應用。同時加強行政監管機制建設，在傳播渠道上，要建立過濾機制，並且要對所有造假視頻音頻實現溯源。此外，公衆也要提高警惕性，保護個人隱私。不隨意在網上發佈包含自己人臉的圖片。