AI批量造謠來勢洶洶斬斷利益鏈條刻不容緩

胡欣紅

近期，多地公安機關發佈了多起利用AI工具實施造謠的相關案件。上海市公安局城市軌道和公交總隊發佈警情通報：兩名營銷人員爲博取關注造謠地鐵站發生持刀傷人的情況，被上海警方依法處以行政拘留。其中一人使用AI軟件生成視頻技術，編造了地鐵行兇的虛假視頻等不實信息發佈到網上，造成惡劣社會影響。

信息時代，各種資訊滿天飛，有些事情本身就真假難辨，容易混淆視聽。謠言往往具有傳播速度快、影響範圍廣的特點，一旦形成規模，就會對社會秩序和社會穩定造成威脅。使用AI技術讓造謠更加便捷和高效，並提升了謠言的數量級和傳播力，進一步加劇了謠言的危害性。去年，上海發生一起女童走失事件，一個造謠團伙以“標題黨”“震驚體”方式，惡意編造炒作“女孩父親系繼父”“女孩被帶往溫州”等系列謠言。該團伙利用AI工具等生成謠言內容，通過114個賬號矩陣，在6天內發佈268篇文章，多篇文章點擊量超過100萬次。

鑑於自媒體造謠嚴重傷害了網絡生態，監管部門依法加大了對網絡謠言的打擊力度。今年4月，中央網信辦部署在全國範圍內開展爲期兩個月的“清朗·整治‘自媒體’無底線博流量”專項行動，整治的重點之一是“擺拍發布涉及國內外時事、社會民生等領域虛假事件信息。拼湊剪接網絡視頻圖片，篡改事件發生的時間、地點、人物等要素，以假亂真欺騙公衆”。

不得不說，目前網絡造謠的成本還是太低了。據央視報道，江西南昌一家MCN機構使用AI技術，最高峰一天生成4000至7000篇謠言，最高的一條收入700元，初步估算每天收入1萬元以上，但相關責任人僅僅被處以行政拘留5日。

《刑法》第291條規定：“編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重後果的，處三年以上七年以下有期徒刑。”據此，對網絡造謠（及故意或惡意傳謠）行爲，除治安處罰外，情節嚴重的應追究刑事責任，切實提高其造謠成本，方能以儆效尤。

AI造謠呈現出門檻低、批量化、識別難等特點，亟待加強監管，斬斷背後利益鏈條。線下的懲處力度固然要加強，線上的技術監管和追蹤也要更新迭代。利用AI技術批量造謠往往涉及大量的網絡活動和數據傳輸，相關部門應加強對網絡空間的監管和追蹤，及時發現和處置謠言信息。

對於涉及的網絡平臺，也應追究其監管責任。用技術解決技術，用魔法打敗魔法，在大數據和新技術面前，識別利用AI炮製的垃圾信息，並沒有那麼困難。如果平臺未能有效監管和清理謠言信息，應依法對其進行處罰，並責令其加強內容審覈和管理。此外，網絡平臺、媒體機構等應加強自律，遵守法律法規，不傳播未經證實的信息。各行業之間也應加強合作，共同打擊利用AI批量造謠的行爲。

“造謠一張嘴，闢謠跑斷腿。”當前也亟須通過教育和宣傳，幫助公衆提高對謠言的識別能力，做到理性看待網絡信息，避免被謠言誤導。尤其是看到聳人聽聞的信息時，不妨多留個心眼，讓子彈再飛一會兒，切莫落入信息陷阱之中，甚至盲目跟風轉發評論，有意無意助紂爲虐。