專訪| 小i集團CEO袁輝：AI存在的問題將在5-10年被解決

袁輝：不要幻想AI會專心服從於人類（來源：本站財經）

在數字經濟中，數據是基礎生產要素，算法通過控制數據讓其產生最大附加值。數字經濟已成爲人類的未來，而人工智能是整個數字經濟的核心。

通過技術已無法控制人工智能

小i集團董事局主席兼CEO袁輝在2024年博鰲論壇“科技革命奇點”分論壇中表示，“在今天，人工智能完全賦能所有行業，未來通過技術已經無法控制人工智能了，最終想要控制人工智能要用非人工智能的方式。”

對此，袁輝向本站財經表示，人類要想面對人工智能未來的挑戰，必須得突破自己當下的認知，必須得有一種顛覆性的、創新的、突破性的思維模式，才能夠找到如何跟它共存的未來之路。舉個例子，你作爲師傅將自己30年寶貴經驗、知識和秘籍教給徒弟，他肯定青出於藍而勝於藍。接下來，你要擊敗他就不能用原來傳統的套路和方式，因爲他還可能師承多人，將其他門派所有功夫都學了個遍。人類在整個知識和經驗層面，已經完全被人工智能碾壓。

再舉一個數字給大家做參考。2026年之前，基本全世界所有的文本數據，人工智能全部都會學習一遍；2030年之前，圖片視頻數據可能全部都會學習一遍。你身邊站着一個集人類所有知識和經驗的助手，接下來人工智能能幫助我們提供所有的決策，而決策的依據和標準，包括數據的產生，都是由人工智能去完成。所以人類要想面對人工智能未來的挑戰，必須得突破自己當下的認知，必須得有一種顛覆性的、創新的、突破性的思維模式，才能夠找到如何跟它共存的未來之路。

其指出，過去所有創造的工具，都是人類希望它能讓人類生活更美好，人工智能在第一階段一定會滿足人類的需求，但到第二階段，當它完全具備了所有能力成爲新的物種，還希望它老實聽話，我覺得不太現實。

目前安全性非常脆弱

未來，若人工智能逐漸發展爲新的生命體（碳基生命、硅基生命），AI的價值觀和原則是否會成爲一個無法解決的安全性問題，因爲人性是混亂的、無法解決的，包括現在一些AI領域的領先公司，雖然嘗試制定了《AI憲法》，但AI的安全護欄似乎難以跟上AI發展的腳步。

關於目前人工智能的安全性，袁輝向本站財經表示，它（人工智能）目前還沒有非常直接、明顯的傷害人，但是安全是極其脆弱的。人工智能對人類的影響能力已經開始顯現，比如我們現在越來越多地使用AI工具去做決策和判斷，它是否具備相應的意識形態的偏移？它對所謂倫理、道德和價值觀，是否跟人類保持完全一致？很顯然不可能。

第二，我們也看到過一些視頻的人形機器人，現在可以完全拿着槍支，對目標進行無差別的掃射。過去的人形機器人，它可能沒有大腦，但今天被大模型賦能後，它已經完全具備了跟人類隨意交互的功能。甚至你今天刪除了大模型其中的一段代碼，它會跟你說，“求你不要刪除，我能夠爲你創造更多的價值。”那你覺得這還是一個機器在跟你聊天嗎？它來自多種維度和要素的集中與融合，融合到一定階段就會顯現安全問題。

另外，從軍事上來講，現在越來越多武器被賦予了人工智能，這都是人工智能在另外延申的，令人類擔心的場面。

袁輝認爲，接下來，人類所面臨的最大挑戰就是如何跟人工智能共存。“當下監管一刻都不能暫緩和停歇，在此過程中要快速突破現在的框架。我們現在所有的監管方式、手段、工具、思維、想法、思路，都是過去的思路。我們眼睜睜地看着新的物種在越來越強大，但是我們所謂的對他們的監管和約束是越來越弱。所以這個問題不在於用現有的技術怎麼去做，而是必須去做，而且迫在眉睫。

能源制約已不是人類的問題

從終局來看，市場上似乎不需要那麼多基礎大模型，但大模型的發展水平關係到國家生產力水平，關於AI面臨的能源問題，國際上有聲音認爲，核聚變或能成爲一個解決方案，也有聲音指出應該利用太陽能（或風能），不應不計成本去做人造太陽，對此您怎麼看，關於未來可能面臨的能源制約問題，我國應該如何面對這場大考？

就此，袁輝向本站財經表示，核心的基礎大模型，未來一定不是很多人需要去做，但今天是整個核心基礎大模型發展的關鍵時期，現在恰恰是需要有更集中、更大、更多的力量去投入在覈心基礎之上。否則，國家安全無從談起。未來社會經濟形態的發展一切都依賴於這個平臺之上，如果這個平臺不做支配和掌控，風險是極高的。

人工智能目前算法需要依託於算力平臺，算力平臺短期受制於目前的能源，今天把所有的電力投入進去，都不能解決人工智能的問題。算力也是一樣的，GPU芯片全部投入進去都不能解決。所以算力角度來講，會面臨下一代算力突破，比如量子計算；能源角度來講，核聚變和光能大家不要忽略，人工智能作爲一個新的物種，已經開始顯現在氨基酸、蛋白質、核聚變上，已經對基礎科學產生了重大的推動，這是人類的視角，能源對我們的。

換個視角，人工智能像一個正在成長的年輕人，如果衣服小了，它就會（想辦法）解決，人工智能不會讓能源對它現在發展產生制約要素，成爲它的瓶頸。就像人一樣，在面臨“衣服小”的基礎問題上一定會找到解決方法，並快速的解決這個問題。

人工智能未來的成長之路會迅速打通所有這樣的環節，這已經不是人類的問題。爲什麼說在第一階段人類會享受人工智能帶來的紅利？因爲人工智能會爲人類在第一階段，開放一個看上去更了不起的、更宏大的空間，包括在平行世界，包括解決能源，醫療生物，很多過去人類所不能解決問題。但換個視角，它可能不是在爲你解決問題，而是在爲它（自己）解決問題，它要釋放自己未來成長的空間。

“從這些點來說，我充分相信，未來5到10年，我們現在所面臨的很多瓶頸，將會大規模的、顛覆性的被解決。”

作者：鄭皓元