OpenAI稱加州爭議AI法案將損害創新

鞭牛士報道，8月22日消息，據彭博社報道，OpenAI 反對加利福尼亞州的一項對人工智能公司提出新安全要求的法案，並加入了最近反對這項有爭議的立法的科技領袖和政界人士的行列。

據彭博新聞社週三收到的一封致加州參議員斯科特·維納辦公室的信函，這家總部位於舊金山的初創公司表示，該法案將損害人工智能行業的創新，並認爲該問題的監管應該由聯邦政府而不是各州來制定。

這封信還引發了人們的擔憂，即該法案如果獲得通過，可能會對美國在人工智能和國家安全方面的競爭力產生廣泛而重大的影響。

維納提出的 SB 1047 旨在爲生產超過特定尺寸和成本門檻的大型人工智能模型的公司制定其辦公室所謂的常識性安全標準。

該法案於 5 月在州參議院獲得通過，要求人工智能公司採取措施，防止其模型造成嚴重傷害，例如促成可能造成大量人員傷亡或造成超過 5 億美元經濟損失的生物武器的開發。

根據該法案，公司需要確保人工智能系統可以關閉，採取合理謹慎措施，確保人工智能模型不會造成災難，並向加州司法部長披露合規聲明。如果企業不遵守這些要求，他們可能會被起訴並面臨民事處罰。

該法案遭到了許多大型科技公司、初創公司和風險投資家的強烈反對，他們表示，對於一項仍處於起步階段的技術來說，這是越權行爲，可能會扼殺該州的技術創新。

一些批評該法案的人擔心，這可能會將人工智能公司趕出加州。

OpenAI 在致維納辦公室的信中也表達了同樣的擔憂。

OpenAI 首席戰略官 Jason Kwon 在信中寫道：人工智能革命纔剛剛開始，加州作爲全球人工智能領導者的獨特地位正在推動該州的經濟活力。SB 1047 將威脅到這種增長，減緩創新步伐，並導致加州世界級的工程師和企業家離開該州，到其他地方尋找更大的機會。

據一位熟悉該公司房地產計劃的人士透露，由於擔心加州監管環境的不確定性，OpenAI 已暫停有關擴大其舊金山辦事處的討論，該人士要求匿名討論內部對話。

維納在一份聲明中爲擬議的立法辯護，並表示 OpenAI 的信沒有批評該法案中的任何條款。

他還表示，關於人工智能人才離開該州的論點毫無意義，因爲該法律將適用於在加州開展業務的任何公司，無論其辦事處位於何處。

維納辦公室的一位代表指出，兩位著名的國家安全專家公開支持該法案。

「SB 1047 是一項非常合理的法案，要求大型人工智能實驗室做他們已經承諾要做的事情，即測試他們的大型模型是否存在災難性安全風險。」維納說。「SB 1047 根據我們所知的可預見的人工智能風險進行了很好的校準，值得頒佈。」

批評者認爲，該法案要求公司向州政府提交有關其模型的詳細信息，這將阻礙創新，並阻止小型開源開發商創建初創企業，因爲他們擔心被起訴。

上週，爲了解決一些阻力，維納修改了擬議的立法，取消了不合規的科技公司的刑事責任，增加了對小型開源模型開發商的保護，並取消了新提出的前沿模型部門。

此前，開發商如果故意向政府提交有關其安全計劃的虛假信息，可能會受到僞證處罰。OpenAI 的競爭對手 Anthropic 以比競爭對手更注重安全而聞名，該公司此前曾表示將支持該法案的一些修正案。但即使在修正案出臺後，該法案仍繼續遭到反對，包括前衆議院議長南希·佩洛西 (Nancy Pelosi)，她發表聲明稱該法案消息不靈通。

一羣民主黨國會議員也公開反對該法案。

根據州政府文件，OpenAI 和其他科技行業公司已經聘請了一直在爲該法案工作的說客。

OpenAI 在信中表示，它已經與維納的辦公室就該法案進行了幾個月的接觸，但最終並不支持該法案。

「我們必須通過一系列聯邦政策（而不是州政策）來保護美國的人工智能優勢，這些政策可以爲人工智能實驗室和開發者提供清晰度和確定性，同時還能保護公共安全。」信中寫道。

OpenAI 認爲，白宮科技政策辦公室、商務部和國家安全委員會等聯邦機構比加州州級政府機構更適合管理關鍵的人工智能風險。

該公司表示，它支持幾項擬議的聯邦立法，例如《人工智能創新未來法案》，該法案爲新的美國人工智能安全研究所提供了國會支持。

「正如我反覆表示的那樣，我同意理想情況下國會會處理這個問題。」維納在聲明中說。 「然而，國會並沒有這樣做，我們也懷疑國會是否會這樣做。根據 OpenAI 關於國會的論點，加州永遠不會通過其數據隱私法，而且鑑於國會缺乏行動，加州人的數據將得不到任何保護。」

SB 1047 將於本月某個時候在加州議會進行投票。

如果獲得通過，它最終將移至加州州長加文·紐森的辦公桌上。雖然紐森沒有表示他是否會否決該法案，但他曾公開表示需要在降低風險的同時促進加州的人工智能創新。