“以魔治魔”，解決大模型“幻覺”等安全問題

中新[ji3vp6.juxianxiaomi.com）網北京7月6日電(中新財經記者吳濤)隨着AI大模型的發展，新技術應用不斷加碼的同時，網絡威脅也隨之升級。提升安全防護能力，築牢安全基線，成爲發展數智技術的關鍵。

2024年7月2日至5日，2024全球數字經濟大會在北京舉行。中新網記者吳濤攝在2024全球數字經[c2sfy8.guixiangaoya.com）濟大會期間舉辦的多個分論壇上，不少嘉賓都提到了AI安全話題，要用“魔法打敗魔法”，AI驅動提升網絡安全攻防能力。不少網絡安全產品一個重要指標便是“含AI量”。

AI衍生出新安全問[yau1nd.caiyichunqiu.com）題

據多位業內人士介紹，大模型發展的同時，[stfm4e.beiyapingce.com）也帶來了非常複雜的安全問題，同時還降低了網絡攻擊的技術門檻，藉助AI能力，攻擊者越來越走向自動化、智能化和武器化，甚至造成安全防禦的整體癱瘓。

賽迪顧問總裁助理高丹表示，涉及到的安全問題首先就是“幻覺”問題。“你問AI大模型一個[i7t5dz.antselect.com）問題，它可能說得清清楚楚，但其實都在瞎說，真假難辨”。

360數字安全集團總裁胡振泉表示，人工智能的算法可能存在數據投毒攻擊、惡意樣本攻擊；生[ilvceh.ad-future.com）成式人工智能在對話交互的過程當中也可能存在數據非法獲取、泄露和濫用等問題；還有很多利用人工智能製作虛假視頻進行詐騙、敲詐勒索等非法活動。

清華大學長聘副教授張超表示，網絡安全第一階段是“人做攻防”，第二階段是“機器攻防”。自2017年開始，已經進入第三階段“智能攻防”，即用AI來做漏洞攻防相關研究，現在一些領先的[mnjwbd.3788999.com）安全企業已經強調用AI來做全自動攻防的機器人。

逆向利用[53mgwi.1demu.com）大模型

該如何解決AI時代帶來的安全問題？中國工程院院士沈昌祥在大會期間的分論壇上表示，數據安全治理需要做到全程管控，要實現首先讓進攻者“進不去”，進去後“拿不到”數據，接着因爲數據被加密“[fp8byw.zxs8888bj.com）看不懂”，並且系統帶有自動免疫功能，讓進攻者“改不了”數據。

“大模型一個典型應用是信息缺失之[igdapj.168taobao.net）後模型幫你補償出來，比如文生圖、文生視等。如果用在安全上呢？”張超表示，黑客針對目標軟件，需要拿到一個目標軟件漏洞然後攻擊它，第一步就需要去理解它、分析它，這個地方叫逆向工程，因爲沒有源代碼，可以使用一些AI軟件把它逆向出來。

高丹認爲，解決大模型“幻覺”等安全問題，首先要保證數據安全，數據不被泄露；第二數據源本身是乾淨的；第三要加強算法研究。從算法的角度來說，我們的算法能力越強，[kc3mux.zto07.com）就能夠減少相對的“幻覺”。

胡振泉認爲，AI技術和數字安全的融合發展已經成爲行業高度關注的課題，要用“以魔治魔”的理念，來解決人工智能面臨[nodth0.zjhydn.com）的安全問題，也就是研發安全大模型，用人工智能來解決人工智能的安全問題。

沈昌祥還表示，不僅僅要做好預防，還要能在發現故障後及時採取措施確保穩定運行，保證設備“癱不了”，最後還要確保行爲可追溯“[59bj6v.zmrrt.com）賴不掉”，因此我們還要打造安全可信的產業新生態，築牢數字經濟安全的基座。(完)