前OpenAI首席科學家辦新公司 要創建安全強大的AI體系

前OpenAI首席科學家蘇特克韋爾(右)週三宣佈創辦新AI公司,他曾在OpenAI執行長奧特曼(左)戲劇性被解僱後又回鍋的事件裡扮演關鍵角色。路透

ChatGPT開發商OpenAI的聯合創辦人兼前首席科學家蘇特克韋爾(Ilya Sutskever)週三在X平臺發文,宣佈他創辦了一家新的人工智慧公司Safe Superintelligence,旨在透過純研究機構創建一個安全強大的AI體系,短期內無意銷售AI產品或服務。

去年11月,OpenAI執行長奧特曼戲劇性被解僱後又回鍋,蘇特克韋爾扮演了關鍵角色,他在5月離開OpenAI,此後外界都在問,他去哪兒了。創辦新公司顯示,蘇特克韋爾試圖繼續自己的工作,不受OpenAI、Google和Anthropic等競爭對手的干擾。

他受訪時說:「這家公司很特別,第一項產品將是安全的超智慧(superintelligence),在此之前不做任何其他事情。它將完全不受外界壓力的影響,不必處理龐大而複雜的產品,也不必陷入競爭激烈的老鼠賽跑。」

正如公司名稱所強調的,蘇特克韋爾將AI安全性放在首位。重點當然是去鑑別是什麼讓一個AI系統比另一個更安全,或者說,究竟是否安全。蘇特克韋爾目前對此含糊其辭,但他說,新公司將嘗試經由AI系統裡的工程突破,而非仰賴臨時防護措施來實現安全。

蘇特克韋爾還有兩位聯合創辦人。其中一位是投資人、前蘋果公司AI主管格羅斯(Daniel Gross),另一位是前OpenAI研究人員李維(Daniel Levy),他曾與蘇特克韋爾並肩工作,在訓練大型AI模型方面有良好的聲譽。

李維說他的願景與蘇特克韋爾完全相同,「一個小而精幹的破解團隊,每個人都專注於安全的超智慧(safe superintelligence)這個單一目標。」

新公司將在加州帕羅奧圖和以色列特拉維夫設辦事處。蘇特克韋爾和格羅斯都成長於以色列。

Safe Superintelligence在某種程度上是回溯OpenAI最初的概念:一個試圖建立通用人工智慧的研究機構,在許多任務上可以有不相上下、甚至是超越人類的表現,但隨着愈來愈需要籌集巨資購買算力,OpenAI的結構發生了變化,導致該公司微軟建立緊密合作,並推出能創造營收的產品。所有主要的AI公司都面臨同樣的問題,隨着AI模型的規模瘋狂擴大,它們需要爲不斷擴大的運算需求支付費用。

這些現實問題題讓Safe Superintelligence成爲投資人的一場豪賭,他們押注蘇特克韋爾的團隊能取得突破,從而在競爭對手之間佔據優勢。這些投資人砸錢時,不指望能創造出能獲利的熱銷產品。Safe Superintelligence想實現的目標是否可能,也還不清楚。

該公司名字裡的「超智慧」(superintelligence)是AI領域的行話,與大多數大型科技公司正在研發人類水準的AI相比,這是另一級別的系統。對於超智慧能否實現,或者如何構建這種智慧,業內還沒有達成共識。

儘管如此,鑑於創辦團隊的聲譽以及人們對該領域的濃厚興趣,Safe Superintelligence在融資方面可能不會遇到太大的困難。蘇特克韋爾拒絕透露Safe Superintelligence的金主是誰以及他已經籌集了多少資金。格羅斯則說:「在我們面臨的所有問題中,籌集資金不是其中之一。」