年底上線!馬斯克:訓練Grok 3用了10萬塊英偉達H100,會很特別
7月2日消息,億萬富翁埃隆·馬斯克(Elon Musk)正在爲其即將推出的AI聊天機器人Grok的新版本造勢。馬斯克週一在社交媒體X上回應了一則帖子,表示經過10萬塊H100芯片訓練後的Grok 3聊天機器人將會“非常特別”。
這裡所說的H100是英偉達開發的圖形處理單元,也稱爲Hopper,是專門用於處理大語言模型(LLMs)數據的AI芯片。隨着科技公司競相開發更智能的AI產品,這些芯片成了硅谷的熱門商品。
每塊英偉達H100人工智能芯片的價格估計在3萬美元左右,也有人估計價格高達4萬美元,如果批量購買的話可能會有折扣。
通過簡單計算,單單訓練Grok 3就用了價值30億至40億美元的人工智能芯片,目前不確定這些芯片是否是馬斯克公司直接購買的,此前報道稱,馬斯克旗下的xAI公司正在與甲骨文談判,計劃在未來幾年內花費100億美元租用雲服務器。近年來,馬斯克的公司已直接購買了大量的H100芯片。據報道,馬斯克曾將原本供特斯拉使用的價值5億美元的H100芯片轉給了X公司。
相較於Grok 2,使用10萬塊H100訓練Grok 3無疑是一個巨大的提升。今年4月,馬斯克在接受挪威主權基金負責人尼科萊·坦根(Nicolai Tangen)的採訪時表示,訓練Grok 2需要大約2萬塊H100。
目前,xAI已發佈了Grok-1和Grok-1.5版本,最新版本僅對X平臺上的早期測試者和現有用戶開放。馬斯克在週一的帖子中透露,Grok 2計劃於今年8月推出,並暗示Grok 3將於年底發佈。
xAI沒有迴應置評請求。
10萬塊H100芯片聽起來很多,但其他科技巨頭,如Meta,也在大量購買GPU芯片。Meta首席執行官馬克·扎克伯格(Mark Zuckerberg)今年1月曾表示,到2024年底,Meta將購買約35萬塊英偉達H100芯片,並表示包括其他類型的GPU在內,Meta將擁有約60萬塊芯片。
如果是這樣的話,Meta將爲構建自家人工智能能力花掉大約180億美元。
這些芯片的積累也導致了過去一年中頂尖AI人才的招聘競爭變得異常激烈。AI初創公司Perplexity的創始人兼首席執行官阿拉文德·斯里尼瓦斯(Aravind Srinivas)談到了他試圖從Meta挖角一位資深研究人員的經歷,但對方因扎克伯格擁有大量AI芯片而拒絕了他的邀請。
“我試圖聘請一位非常資深的Meta研究員,他們的回答是:‘等你有了1萬塊H100 GPU再來找我。’”斯里尼瓦斯說。(辰辰)