DataGrail峰會爐邊談話：AI發展超速，安全護欄建設“追不上”了

智東西編譯 楊蕊伃編輯 漠影

智東西9月3日消息，據VentureBeat 8月31日報道，在2024年DataGrail峰會上，Instacart首席信息安全官（CISO）David Tsao和Anthropic首席信息安全官Jason Clinton進行一場深入對話，就人工智能（AI）的快速發展所帶來的風險發出了警告。

Clinton稱：“AI的計算能力目前正處於一個指數增長的階段，而這種指數增長的趨勢非常難預測。指數的快速增長正在將AI推向未知領域，這意味着目前的保護措施可能很快將不再適用。”

兩位首席信息安全官強調行業需迅速強化安全措施以應對AI的快速發展。這場討論由VentureBeat的編輯總監Michael Nunez主持，探討了AI模型發展存在的威脅。

一、AI算力的指數級增長，遠遠超過安全框架的發展速度

Instacart首席信息安全官David Tsao和Anthropic首席信息安全官Jason Clinton一致認爲，AI技術的快速發展已經超過了安全框架的建設速度。

兩位首席信息安全官都建議企業在投資AI技術時，也要注重投資AI安全系統。

Clinton稱，AI模型的計算能力正呈指數級增長。

他說：“自1957年感知機問世以來，每年訓練AI模型的計算總量都比前一年增長4倍。企業若想在未來幾年保持領先，就必須預見到神經網絡的計算量一年後將增長4倍，兩年後將增長16倍。”

他呼籲企業既要跟上現有技術，又要爲未來技術進步做好準備。

Clinto認爲AI能力的快速增長正將其推向未知領域，當前的保護措施可能很快將不再適用。

他說：“安全措施不能只針對現有的模型和聊天機器人，還需要考慮到Agent架構等前沿技術。”

二、企業應加強AI安全系統的投資，以重建用戶信任

Instacart首席信息安全官David Tsao從實際應用的角度探討了AI的安全挑戰。

David稱，大語言模型的不可預測性是目前業內面臨的一個主要挑戰。

他解釋說：“儘管我們限制了這些模型的回答問題方式，但如果我們投入足夠的時間去引導和訓練它們，我們仍然可能找到突破這些限制的方法。”

此外，他還提到AI生成的內容有時會出錯。他認爲這種錯誤可能會減少用戶的信任，嚴重時甚至可能傷害到用戶。

David強調企業需要在技術創新和安全保障之間找到平衡點。

他建議：“企業應該在AI的安全系統、風險控制框架和隱私保護上儘可能多地投資。”

David強調，各個行業都在積極應用AI來提高效率，但如果不規避風險，企業可能會遭受嚴重損失。

三、AI模型運作不可預測，AI風險將增加

Anthropic首席信息安全官Clinton介紹了自家公司最近進行的一項神經網絡實驗，這個實驗展現了AI行爲的複雜性。

在實驗中，一個被訓練過的模型總是將特定神經元與金門大橋聯繫起來，即使在完全不相關的情境中也是如此。

他認爲這個實驗顯示了AI模型內部運作的不可預測性。

Clinton說：“我們的神經網絡已經能夠識別其神經結構的異常。隨着技術的發展，現在發生的一切在一年或兩年以後將變得更加強大。”

隨着AI系統越來越深入地融入關鍵業務流程，AI風險也會增加。

Clinton認爲，在未來，AI Agent不僅能聊天，還能獨立完成複雜任務。

Clinton的設想引發了關於AI驅動決策可能帶來的深遠影響的討論。

他再次警告說：“如果企業只針對現有的模型和聊天機器人制定計劃，而沒有爲未來的AI治理做好準備，他們將遠遠落後。”

結語：AI是寶貴資產，企業必須確保其存在安全

AI的發展勢頭不會減弱，同時，推進用以控制AI的安全措施也不應該停滯。

Clinton總結道：“智能是一個組織中最有價值的資產，但缺乏安全的智能將會帶來災難。”

企業在推進AI技術的同時，需要投入相應的資源和努力，以確保AI系統的安全和可靠。

一方面，業界應該推進技術層面的防護措施，如加密技術和訪問控制，以確保用戶數據的安全和系統的安全。

另一方面，相關道德倫理約束、法律法規體系有待完善，如提高AI決策過程的透明度和可解釋性，以確保AI系統的決策能夠被用戶和社會理解和信任。

來源：VentureBeat