奧特曼離開OpenAI安全委員會：可決定大模型是否發佈

鞭牛士報道，9月17日消息，據外電報道，OpenAI 首席執行官 Sam Altman 將離開 OpenAI 於 5 月成立的內部委員會，該委員會負責監督與公司項目和運營相關的關鍵安全決策。

OpenAI在今天的一篇博文中表示，安全與保障委員會將成爲由卡內基梅隆大學教授Zico Kolter擔任主席的獨立董事會監督小組，成員包括 Quora 首席執行官 Adam D'Angelo、美國退役陸軍將軍 Paul Nakasone 和前索尼執行副總裁 Nicole Seligman。

他們都是 OpenAI 董事會的現任成員。

OpenAI 在帖子中指出，委員會對OpenAI 的最新 AI 模型o1進行了安全審查——儘管 Altman 仍參與其中。該公司表示，該小組將繼續定期接受 OpenAI 安全團隊的簡報，並保留推遲發佈的權力，直到安全問題得到解決。

OpenAI 在帖子中寫道：作爲其工作的一部分，安全委員會將繼續定期收到有關當前和未來模型的技術評估報告，以及持續發佈後監測報告。我們正在基於我們的模型發佈流程和實踐，建立一個綜合的安全框架，明確定義模型發佈的成功標準。

Altman 離開安全與保障委員會之前，五名美國參議員在今年夏天致 Altman 的一封信中對 OpenAI 的政策提出了質疑。

OpenAI 曾經專注於人工智能長期風險的員工中，近一半已經離職，前 OpenAI 研究人員指責Altman 反對真正的人工智能監管，而傾向於推進 OpenAI 企業目標的政策。

正如他們所說，OpenAI 大幅 增加了 在聯邦遊說方面的支出，2024 年前六個月的預算爲 80 萬美元，而去年全年的預算爲 26 萬美元。

今年春天早些時候，Altman 還加入了美國國土安全部的人工智能安全與安保委員會，該委員會爲美國關鍵基礎設施中人工智能的開發和部署提供建議。

即使 Altman 被撤職，也幾乎沒有跡象表明安全委員會會做出嚴重影響 OpenAI 商業路線圖的艱難決定。

值得注意的是，OpenAI 在 5 月份表示，它將尋求通過委員會解決對其工作的有效批評——當然，有效批評取決於旁觀者的看法。

5 月份，OpenAI 前董事會成員海倫·託納 (Helen Toner) 和塔莎·麥考利 (Tasha McCauley)在《經濟學人》的 一篇專欄文章中表示，他們認爲目前的 OpenAI 不值得信任，無法承擔責任。

他們寫道：根據我們的經驗，我們認爲自治無法可靠地承受利潤激勵的壓力。

而OpenAI的盈利激勵還在不斷增長。

據傳，該公司正在籌集65 億美元以上的資金，這將使 OpenAI 的估值超過 1500 億美元。爲了達成這筆交易，OpenAI 可能會放棄其混合非營利性公司結構，該結構旨在限制投資者的回報，部分原因是確保 OpenAI 與其創始使命保持一致：開發造福全人類的通用人工智能。