蘋果棄輝達 採谷歌晶片打造AI

圖/美聯社

蘋果最新技術文件透露,Apple Intelligence背後的兩大AI模型,是採用谷歌研發的張量處理器(TPU)進行訓練,而非使用輝達GPU,透露輝達晶片供不應求令一些科技大廠開始另尋出路。

蘋果先前在6月首度發表AI技術文件,當時僅大略說明蘋果AI模型是採用TPU進行訓練。蘋果近日發表的最新技術文件長達47頁,內容詳細介紹蘋果基礎模型(AFM)及AFM伺服器是在「雲端TPU叢集」進行訓練,也就是說蘋果是向雲端服務供應商租用雲端伺服器來訓練AI模型。

蘋果於文件中表示:「這套系統讓我們能有效並有規模地訓練AFM模型,包括裝置本機端的AFM模型、AFM伺服器及更大規模的語言模型。」

蘋果進一步表示,在iPhone及iPad本機端的AFM模型一共採用2,048個TPUv5p晶片進行訓練,而這類晶片是目前市面上最先進的TPU晶片。AFM伺服器一共採用8,192個TPUv4晶片進行訓練。

谷歌最初在2015年推出TPU時僅供內部訓練使用,2017年纔開始對外提供TPU租用服務,是目前應用於AI訓練技術最成熟的客製化晶片。谷歌官網指出,旗下最先進TPU的租金以三年合約計算約爲每小時2美元。

儘管輝達GPU晶片稱霸高階AI晶片市場,但因AI模型訓練需要的晶片數量龐大,且OpenAI、微軟、谷歌、Meta、甲骨文、特斯拉等科技大廠全都使用輝達晶片發展AI技術,導致輝達晶片嚴重供不應求。

Meta執行長祖克伯與Alphabet執行長皮查近日紛紛表示,科技業爲了追趕AI浪潮可能過度投資AI基礎建設,但過度投資總好過錯失產業趨勢。

自從2022年底ChatGPT爆紅帶動生成式AI市場起飛後,矽谷科技大廠爭相投資AI研發,相較之下蘋果已落後對手一步,如今不得不加把勁充實Apple Intelligence。蘋果29日已針對部分裝置發佈Apple Intelligence預覽版。