沈向洋對話圖靈獎得主：時代的AI治理挑戰與機遇並存

7月4日消息，2024世界人工智能大會全球治理圖靈圓桌環節，原微軟執行副總裁、美國國家工程院外籍院士沈向洋對話三位圖靈獎得主羅傑·瑞迪（Raj Reddy）、曼紐爾·布盧姆（Manuel Blum）、姚期智。

談及對AI的觀點與擔憂，羅傑·瑞迪表示，自己很驚喜也很高興，第一是看到了大家都對AI治理方面的風險問題、安全性問題有所擔心，但具體需要做哪些研究？需要做哪些投資？目前還沒有明確做到。第二，正如聯合國發言人講到的“能力建設”，我們可以盡力讓AI幫助每個人把自己工作做好。

羅傑·瑞迪認爲新技術會產生新的機會，也會帶來問題，但不應只想着負面影響就不繼續了，未來，世界上每個人的生產效率將上漲10倍，GDP也將從100萬億生長到1000萬億。

曼紐爾·布盧姆在過去幾年重點研究AI意識問題，他與雷諾爾·布朗創立了意識的模型，即“有意識的圖靈機（CTM）”。大腦裡有100多億神經元，100億的處理器，CTM模型可以告訴人們如何讓很多處理器同時工作。

姚期智認爲AI風險主要來自三方面：一是網絡風險延伸和擴大，隨着AI能力出現，傳統的數據和網絡安全方面風險會被放大；二是沒有意識到的社會風險，如AI非常強大，且有很多使用方式，所以顛覆現有社會結構在短時間內發生的可能性是存在的，AI帶來大規模失業的可能性也存在；第三是所謂生存或存在的風險。

姚期智表示，所有這些風險都需要很多專家來解決，不僅是科學家，還需要政府、律師、經濟學家來參與，幾乎涉及每一個行業。

在姚期智看來，AI相當於網絡風險的放大，AI的風險也與計算性相關，目前的算力能解決很多以前不知道如何解決的問題，但這也是讓人感到非常恐懼的地方。因此，行業需要將AI控制好，也不希望AI進行破壞，這樣的平衡是非常困難的。（湯姆）