AI時代的王者:Nvidia Q4財報電話會議記錄
Nvidia昨晚發佈Q4財報,亮瞎眼的數字讓其市值盤後大漲10%。有投資人已經評論,不敢再賭NVidia股票下跌;CNBC投資分析師宣稱,打破NVidia芯片領域的壟斷至少要5年時間:
做爲AI時代當之無愧的王者,我們一起來了解NVidia究竟做對了什麼。以下是Nvidia財報會議全紀錄,經本城書面整理。
下午好,我是羅布,今天我將作爲您們會議的操作員。此刻,我非常歡迎大家加入NVIDIA第四季度的財報電話會議。爲了避免任何背景噪音,我們已將所有線路設爲靜音。在演講者發言結束後,我們將開放問答環節。如果您在此期間想要提問,請按下電話鍵盤上的星號鍵後接數字1。如果您需要撤回您的問題,請再次按星號1。謝謝大家。
下午好,感謝大家參與NVIDIA2024財年第四季度的電話會議。今天在此與我一同參與的有NVIDIA的總裁兼首席執行官黃仁勳(Jensen Huang)以及執行副總裁兼首席財務官科萊特·克雷斯(Colette Kress)。我想提醒大家,我們的電話會議正在通過NVIDIA投資者關係網站進行網絡直播,並且會議結束後,網絡廣播將提供重播服務。今天的電話會議內容是NVIDIA的財產,未經我們的事先書面同意,任何複製或轉錄行爲均不被允許。在本次電話會議中,我們可能會做出基於當前預期的前瞻性聲明,這些聲明受到多種重大風險和不確定性的影響,實際結果可能與預期存在顯著差異。關於可能影響我們未來財務業績和業務的因素,請參考今天的收益報告、我們最新的10-K和10-Q表格,以及我們可能向美國證券交易委員會提交的8-K表格報告。我們的所有聲明都是基於截至2024年2月21日的信息。
除非法律要求,否則我們不承擔更新任何此類聲明的義務。在本次電話會議中,我們還將討論非公認會計准則(非GAAP)財務指標。關於這些非GAAP財務指標與GAAP財務指標的調節表,您可以在我們的CFO評論中找到。更多信息,請訪問我們的網站。
接下來,請允許我將電話會議轉給科萊特。
謝謝,西蒙娜。第四季度再次創下了記錄。收入達到221億美元,環比增長22%,同比增長265%,遠超過我們200億美元的預期。2024財年的總收入達到609億美元,較第一季度增長126%。從數據中心開始,2024財年數據中心的收入達到了47.5億美元,比前一年增長了兩倍多。全球已經達到了新計算時代的轉折點,價值數萬億美元的數據中心基礎設施安裝基礎正在從通用計算快速過渡到加速計算。隨着計算需求的持續激增,公司正在加速每一個可能的工作負載,以推動未來性能、總體擁有成本和能源效率的改進。同時,公司已經開始構建下一代現代數據中心,我們稱之爲人工智能工廠,旨在精煉原始數據並在這個時代產生有價值的智能。第四季度,數據中心的生成式人工智能收入達到了18億美元,在NVIDIA Hopper GPU計算平臺以及InfiniBand端到端網絡的推動下,計算收入增長超過5倍,網絡收入比去年增長了兩倍,銷售額達到了40億美元,創下歷史新高,環比增長27%,同比增長。我們非常高興地看到,隨着供應的改善,對我們的料斗結構產品的需求依然保持強勁。我們預計,由於需求遠遠超過供應,導致供應受限,我們的下一代產品將會受到熱烈歡迎。第四季度數據中心的增長主要是由生成式人工智能的訓練和推理,以及跨多個行業應用的大型語言模型所推動。我們的數據中心平臺以其多功能性和領先的性能,爲包括人工智能訓練、推理數據處理以及各種CUDA加速工作負載在內的多種用例帶來了高投資回報。在過去一年中,大約40%的數據中心收入用於支持人工智能推理,構建和部署人工智能解決方案已經滲透到幾乎每個行業,許多公司都在通過雲提供商(包括超大規模GPU專用雲和私有云或本地)大規模培訓和運營其AI模型和服務。第四季度,客戶採用多雲或混合雲策略進行部署,大型雲提供商佔我們數據中心收入的一半以上,支持內部工作負載和外部公共雲客戶。
微軟最近指出,超過50,000個組織使用GitHub合作試點業務,旨在提高開發人員的生產力,促進GitHub收入同比增長加速至40倍。而Microsoft 365採用率的副試點在前兩個月的增長速度比之前兩個主要的Microsoft 365企業套件版本對消費者互聯網的增長速度要快。公司是人工智能的早期採用者之一,從搜索到電子商務、社交媒體、視頻服務和娛樂,正在使用人工智能進行基於深度學習的推薦系統。這些人工智能投資通過改善客戶參與度、廣告對話和點擊率而產生了豐厚的回報。Meta在最近一個季度表示,更準確的預測和改進的廣告商業績有助於其收入顯著加速。此外,消費互聯網公司正在投資生成人工智能,通過內容和廣告創建的自動化工具、在線產品描述和人工智能購物協助,爲內容創建者、廣告商和客戶提供支持。
我們正在與許多其他領先的人工智能和企業軟件平臺合作,包括Adobe、Databricks、SAP和Snowflake等,大語言模型正在蓬勃發展。人工智能領域的領導者如谷歌、微軟、OpenAI和XAI等,隨着生成人工智能不斷取得驚人的突破,Adept、ai21、Character AI、Cohere、Nostral、Perplexity和Runway等令人興奮的公司正在構建爲企業和創作者服務的平臺。新的初創公司正在創建LLMS,以服務於世界許多地區的特定語言、文化和習俗,其他公司正在創建基金會,用於解決完全不同行業(例如遞歸製藥)並生成生物學和生物醫學的模型。
這些公司正在通過超大規模或GPU專業雲提供商推動對英偉達人工智能基礎設施的需求。今天早上,我們宣佈與谷歌合作,優化其最先進的新Gema語言模型,以加速其在英偉達GPU上的推理性能。雲數據中心和個人電腦是過去一年最顯着的趨勢之一,汽車、醫療保健和金融服務等垂直行業的企業大量採用人工智能。NVIDIA提供多種應用框架,利用我們的全棧加速計算平臺,幫助企業在自動駕駛、藥物發現、用於欺詐檢測的低延遲機器學習或機器人技術等垂直領域採用人工智能。據我們估計,去年汽車垂直行業通過雲計算或本地數據中心的收入貢獻超過了10億美元。NVIDIA Drive基礎設施解決方案涵蓋了自動駕駛開發所需的系統和軟件,包括數據採集、創建、標註以及人工智能訓練,並通過模擬進行驗證。目前,全球有近80家OEM汽車製造商參與到NVIDIA Drive項目中。NVIDIA Drive正在被新能源汽車、卡車運輸、機器人出租車以及一級供應商所使用,他們利用NVIDIA的AI基礎設施來訓練大型語言模型(LLM)和其他AI模型,以便在自動駕駛和AI座艙應用中使用。實際上,幾乎所有專注於人工智能的汽車公司都在與NVIDIA合作。隨着自動駕駛(AV)算法越來越多地採用視頻Transformer技術,以及越來越多的汽車配備攝像頭,我們預計NVIDIA的技術將發揮更大的作用。
在新能源汽車、卡車運輸和汽車數據中心處理需求方面,NVIDIA Drive正經歷着顯著增長。在醫療保健領域,數字生物學和生成式人工智能正在幫助重塑藥物發現、手術、醫學成像和可穿戴設備。過去十年中,我們在醫療保健領域積累了深厚的專業知識,並創建了NVIDIA Clara醫療保健平臺以及NVIDIA Bionemo——一項生成式AI服務,用於開發、定製和部署用於計算機輔助藥物發現的AI基礎模型。Bionemo提供了越來越多的預訓練生物分子AI模型,可應用於端到端的藥物發現過程。我們宣佈,Recursion正在通過Bionemo爲其藥物發現系統提供專有的AI模型。
在金融服務領域,客戶正在將人工智能應用於越來越多的場景,包括交易和風險管理、客戶服務以及欺詐檢測。例如,美國運通通過使用NVIDIA AI技術將其欺詐檢測的準確率提高了6%。
從地理位置來看,我們的數據中心收入在除中國外的所有地區都實現了強勁增長。在美國政府於10月份實施出口管制法規後,我們的數據中心收入出現了大幅下降。儘管我們尚未獲得美國政府向中國運送受限制產品的許可證,但我們已經開始向中國市場運送不需要許可證的替代產品。第四季度,中國數據中心收入佔我們總數據中心收入的一箇中等個位數百分比,我們預計第一季度將保持在類似的範圍內。在美國和中國以外的地區,主權人工智能已成爲額外的需求驅動因素。世界各國都在投資人工智能基礎設施,以支持使用本國語言在國內數據上構建大型語言模型,並支持當地的研究和企業生態系統。
從產品角度來看,我們的大部分收入是由我們的Hopper架構以及InfiniBand網絡推動的,它們已成爲加速計算和人工智能基礎設施的事實上的標準。我們預計在第二季度實現H200的首次發貨,需求強勁,因爲H200的推理性能幾乎是H100的兩倍。我們的網絡年化收入運行率超過130億美元。我們的端到端網絡解決方案定義了現代人工智能數據中心。我們的量子InfiniBand解決方案同比增長超過5倍,NVIDIA Quantum InfiniBand已成爲最高性能AI專用基礎設施的標準。我們現在通過推出新的SpectrumX進一步擴展了我們的產品線。端到端產品已經進入了以太網網絡領域,這一產品專門爲數據中心中的人工智能優化網絡而設計。通過以太網,SpectrumX 引入了互聯網驅動的新技術,專門針對人工智能的需求進行了優化。與傳統以太網技術相比,我們的Spectrum交換機、Bluefield DPU以及軟件堆棧採用的技術,爲AI處理提供了高達1.6倍的網絡性能提升。我們與包括戴爾、HPE、聯想和Supermicro在內的領先OEM合作伙伴擁有全球銷售渠道,正致力於將我們的AI解決方案推廣至全球企業。我們預計在本季度推出SpectrumX。同時,我們的軟件和服務產品也取得了顯著進展,第四季度的年化收入達到了10億美元。
我們還宣佈,NVIDIA DGX Cloud將擴大其合作伙伴名單,納入亞馬遜AWS,並加入Microsoft Azure、Google Cloud和Oracle Cloud的行列。DGX Cloud不僅用於NVIDIA自己的AI基礎設施,也用於AI研發和定製模型開發,以及爲NVIDIA開發人員提供服務。此外,它還將CUDA生態系統帶給NVIDIA的CSP合作伙伴。
轉向遊戲領域,我們的博彩收入達到了28.7億美元,環比持平,同比增長56%。假期期間,消費者對NVIDIA GeForce RTX GPU的強烈需求超出了我們的預期。財年收入達到了104.5億美元,增長了15%。在CES上,我們發佈了GeForce RTX 40 Super系列GPU,起價599美元,提供了令人難以置信的遊戲性能和生成人工智能功能,銷售開局良好。GPU中的NVIDIA AI Tensor核心能夠提供多達836個AI核心,非常適合爲遊戲人工智能提供動力,同時也能夠提升日常生產力。我們通過RTX GPU提供的豐富軟件堆棧進一步加速了人工智能的應用。利用我們的DLSS技術,可以實現8個像素中有7個由AI生成,從而使光線追蹤速度提高4倍並提高圖像質量。此外,藉助適用於Windows的Tensor RT-LLM(我們的開源庫,可加速最新大型語言模型的推理性能),在RTX AI PC上運行生成式AI的速度可以提高5倍。
在CES上,我們還宣佈了多家OEM廠商推出的一系列新款RTX 40系列AI筆記本電腦。這些筆記本電腦爲各種外形尺寸帶來了高性能的遊戲和人工智能功能,包括14英寸和輕薄型筆記本電腦。這些下一代AI PC擁有高達686個頂級AI性能,將生成式AI性能提高了60倍,成爲性能最佳的AI PC平臺。Engine 微服務允許開發人員將最新的生成式人工智能模型集成到數字化身中。ACE 在 CES 2024 上榮獲多項最佳獎項。NVIDIA 提供了一個端到端平臺,專門用於在 RTX PC 和工作站上構建和部署生成式人工智能應用程序。該平臺包括開發人員可以集成到其生成式人工智能工作流程中的庫、軟件開發工具包、工具和服務。NVIDIA 正在推動生成式人工智能應用程序的下一波進入 PC 領域。得益於超過 1 億臺 RTX PC 的安裝基礎和超過 500 個支持人工智能的 PC 應用程序和遊戲,NVIDIA 正在不斷前進。
在專業可視化領域,收入達到了 4.63 億美元,環比增長 11%,同比增長 105%。財年收入達到了 550 億美元,增長了 1%。本季度的持續增長主要是由 RTX AIDA 架構 GPU 的豐富組合所推動的。企業正在更新其工作站,以支持與生成型人工智能相關的工作負載,如數據準備、大型語言模型微調和檢索增強生成。推動需求的關鍵垂直行業包括製造業、汽車和機器人技術。
汽車行業也是 NVIDIA Omniverse 的早期採用者,因爲它尋求將工廠和汽車從設計到建造、模擬、操作和體驗的工作流程數字化。在 CES 上,我們宣佈了與 Brickland、WPP 和 Zero Light 等創意合作伙伴和開發商的合作,他們正在構建支持 Omniverse 的汽車配置器。像路特斯這樣的領先汽車製造商正在採用這項技術,以提高個性化水平、真實性和汽車購買體驗的互動性。
在汽車領域,收入爲 2.81 億美元,環比增長 8%,同比下降 4%。財年收入達到了 10.9 億美元,增長了 21%,首次突破了 10 億美元大關。此外,NVIDIA Drive 平臺也由汽車製造商採用。NVIDIA Drive Orin 是軟件定義自動駕駛車隊首選的人工智能車載計算機。其繼任者 NVIDIA Drive Thor 專爲視覺 Transformer 設計,提供更多的人工智能性能,並將廣泛的智能功能集成到單一的人工智能計算平臺中,包括自動駕駛和停車、駕駛員和乘客監控以及人工智能駕駛艙功能,預計將於明年上市。本季度,包括理想汽車、長城汽車、吉利旗下高端電動汽車子公司澤克和小米電動車在內的幾家汽車客戶宣佈了基於 NVIDIA 的新車型。
轉向損益表的其餘部分,GAAP 毛利率環比擴大至 76%,非 GAAP 毛利率爲 76.7%,得益於強勁的數據中心增長和產品組合。我們第四季度的毛利率受益於有利的零部件成本。隨後,GAAP 運營費用增長了 6%,非 GAAP 運營費用增長了 9%,主要反映了計算和基礎設施投資的增加以及員工數量的增長。在第四季度,我們通過股票回購和現金股息的形式向股東返還了 28 億美元。在 2024 財年,我們使用了 9 美元的現金。我們計劃將90億美元用於股東回報,其中包括9美元的股份回購。具體來說,我們將回購價值50億美元的股份。現在,我想分享一下第一季度的財務展望。我們預計總收入將達到240億美元,有正負2%的波動。我們預期數據中心和臨時設施的收入將持續增長,但這部分增長將被遊戲業務的季節性下降所部分抵消。就毛利率而言,我們預計GAAP毛利率爲76.3%,非GAAP毛利率爲77%,兩者均有正負50個基點的波動。與第四季度相似,第一季度的毛利率將受益於有利的零部件成本。在第一季度之後,我們預計今年剩餘時間內毛利率將回落到大約70%的水平。關於運營費用,我們預計GAAP和非GAAP運營費用分別約爲35億美元和25億美元。到2025財年,我們預計GAAP和非GAAP運營費用將增長約30%,因爲我們將繼續投資於面前的巨大機遇。另外,我們預計GAAP和非GAAP其他收入和支出將約爲2.5億美元,這不包括非關聯投資的損益。我們預計GAAP和非GAAP稅率爲3美元,50億,17%,有正負1%的波動,這不包括任何離散項目。更多的財務細節可以在我們的首席財務官評論和我們的投資者關係網站上找到。
接下來,我想強調一些即將發生的金融界事件。我們將參加3月4日在舊金山舉行的摩根士丹利技術、媒體和電信會議。3月5日,我們將參加T.D. Cohen在波士頓舉行的第44屆年度醫療保健會議。此外,請參加我們3月18日星期一在加利福尼亞州聖何塞舉行的年度GTC會議,這將是GTC五年來首次面對面舉行,會議將以Jensen的主題演講開始。3月19日,我們將爲金融分析師舉辦問答環節。
現在,我們將開始提問環節。操作員,請開始接聽問題。
在此,我想提醒大家,如果要提問,請按星號鍵後按數字1鍵。我們將暫停片刻來整理問答名單。請限制自己提一個問題。現在,我們的第一個問題來自高盛的Tashia Hari。您的線路已開通。
祝賀您取得了如此強勁的成績。我的問題是關於數據中心業務。顯然,您在這個領域做得非常出色。我很好奇,您對2024年和2025年的期望在過去90天裡有何變化。在回答這個問題時,我希望您能談談數據中心內的一些較新領域,如軟件、主權人工智能等。我認爲您對中長期問題的看法已經非常明確。最近,有報道稱NVIDIA可能會進入ASIC市場。這是否可信?如果是,我們應該如何看待您在未來幾年在這個市場的表現?謝謝。
謝謝,塔西婭。讓我們來看看這三個問題。首先,關於數據中心的期望及其演變。感謝您的提問。確實,我們對每個季度都有指導性的預測。本質上,從第24個月開始,一直到第25個月及其之後,持續增長的前景非常樂觀。原因有幾個,我將詳細闡述。
首先,我們正處於兩個行業全面轉型的初期階段,這兩個轉型都影響到整個行業。第一個轉型是從通用計算向加速計算的轉變。衆所周知,通用計算的發展勢頭正在減弱。這一點可以從雲服務提供商的擴展、許多數據中心(包括我們自己的)將通用計算設備的折舊期從4%延長到6%的做法中看出。當無法像以往那樣從根本上顯著提高處理能力時,就沒有必要更新更多的CPU。因此,必須對一切進行加速。NVIDIA長期以來一直在這一領域進行開拓。通過加速計算,我們可以顯著提高能源效率,將數據處理成本降低至原來的1/20。這是一個巨大的數字。當然,速度的提升也是驚人的,這也促成了第二次行業全面轉型,即生成式人工智能的興起。我們相信,在電話會議中會對此進行更詳細的討論。但請記住,生成式人工智能代表了一種新的應用形式,它正在開啓一種新的軟件開發方式,創造出新類型的軟件。這是一種全新的計算方式。你無法在傳統的通用計算平臺上實現生成式人工智能,必須對其進行加速。
第三,生成式人工智能正在催生一個全新的行業。這是一個值得深思的重大變化,它與您提到的關於主權人工智能的問題緊密相關。這個全新的行業的出現,意味着數據中心不再僅僅是進行數據計算、存儲以及爲公司員工提供服務的地方。我們現在看到的是一種新型的數據中心,即人工智能生成工廠。您可能已經聽說過我將其描述爲人工智能工廠。基本上,這種工廠需要原材料,即數據,通過NVIDIA構建的人工智能超級計算機進行處理,將其轉化爲極其有價值的Token。這些Token是人們在使用令人驚歎的GPT聊天或中途體驗時所接觸到的,或者是如今搜索功能得到增強的基礎。現在,所有的推薦系統都因此獲得了超個性化的增強。所有這些令人難以置信的數字生物學初創公司都在利用它來生產蛋白質和化學物質。這樣的例子數不勝數。因此,所有這些Token都是在非常專業的數據中心中生成的,我們稱之爲AI超級計算機和AI生成工廠。
但我們看到的多樣性還有其他原因。這就是基礎所在。它在新市場中的體現,就是我們所看到的所有多樣性。無論是數量還是種類,我們所做的推論現在都創下了紀錄。幾乎每次您與ChatGPT交互時,您都在使用我們的推理服務。每次您在旅途中使用它,我們都在進行推斷。每次您看到那些令人驚歎的Sora視頻或Runway正在編輯的視頻,Firefly,都是NVIDIA在進行推理。我們業務中的推理部分取得了巨大增長,我們估計增長了約40%。隨着這些模型變得越來越大,訓練的需求仍在持續增長,推理的需求也在不斷增加。但我們也在向新的行業領域多元化發展。大型雲服務提供商的建設仍在繼續,這一點可以從他們的資本支出和討論中看出。但現在還出現了一個全新的類別,即專注於NVIDIA AI基礎設施的GPU專用雲服務提供商。這就是我們所看到的多樣性。您目前所見的企業軟件平臺正在部署人工智能技術,其中ServiceNow是一個極佳的例子。觀察Adobe、SAP等公司,您會發現消費者互聯網服務正通過生成式人工智能增強其所有既有服務,從而創造出更多超個性化的內容。我們討論的是工業級生成式人工智能,這一領域現已代表着價值數十億美元的行業,包括汽車、健康和金融服務等。總體而言,我們的垂直行業現在價值數十億美元。
此外,還有主權人工智能的概念。主權人工智能之所以重要,是因爲每個地區都有其獨特的語言、知識、歷史和文化,它們擁有自己的數據,並希望利用這些數據來訓練並創造自己的數字智能,以此來利用和提供服務。這些數據屬於各自的地區,對他們的社會極爲重要,因此他們希望保護這些數據,自行對其進行轉化,向人工智能轉型以增加價值,並自行提供這些服務。因此,我們看到主權人工智能基礎設施正在日本、加拿大、法國以及許多其他地區建設中。我的預期是,美國以及西方正在經歷的變革,將會在全球各地得到複製。人工智能生成工廠將會出現在每個行業、每家公司、每個地區。
最後,去年我們見證了生成式人工智能真正成爲一個全新的領域、應用空間和計算方式,一個全新的產業正在形成並推動我們的成長。
關於40%的收入來自推理的問題,這個數字比預期的要大。一年前,人們的推薦系統在運行互聯網時,如新聞、視頻、音樂以及向您推薦的產品,因爲互聯網上有數萬億的內容,而您的手機屏幕只有幾英寸大小。這些信息通過一個稱爲推薦系統的令人驚奇的系統進行適配,這些系統過去完全基於CPU,但最近向深度學習和生成式AI的遷移,確實將這些推薦系統置於了GPU加速的路徑中。GPU現在參與了推薦系統的每一步,包括最近鄰搜索、重新排名以及爲您生成增強信息。推薦系統是地球上最大的軟件引擎之一,幾乎所有大公司都必須運行這些大型推薦系統。每當您使用聊天GPT時,都會進行推理,以及當您看到由Getty和Adobe的Firefly等公司生成的內容時,這些都是生成模型的例子,而且我剛剛提到的這些模型一年前都是全新的。
關於下一代產品的供應受限的問題,我認爲這意味着布萊克韋爾的供應受到限制。能否進行深入研究?其驅動因素是什麼?爲何隨着霍珀的放鬆,這一點會受到限制?您預計這種情況會持續多久?例如,您是否預期下一代產品在25號之前會持續受到限制?例如,這些限制何時開始緩解?
首先,總體來說,我們的供應情況正在改善。我們的供應鏈團隊已經完成了難以置信的工作。從晶圓、封裝、存儲器到所有的電源調節器、收發器、網絡和電纜,應有盡有。大家可能認爲NVIDIA GPU只是一個芯片,但實際上NVIDIA Hopper GPU包含了35,000個零件,重達70磅。這些設備的複雜性是巨大的。我們所構建的,被稱爲人工智能超級計算機,這個名稱是有充分理由的。如果你仔細觀察數據中心、系統以及佈線系統的背面,你會發現其複雜程度令人難以置信。它是迄今爲止世界上最密集、最複雜的網絡佈線系統之一。我們的InfiniBand業務增長了5倍。與去年同期相比,供應鏈確實表現出色,爲我們提供了支持,因此總的來說,供應正在改善。我們預計全年需求將繼續超過我們的供應,但我們會盡力而爲。週期時間正在改善,我們將繼續盡力而爲;然而,正如您所知,每當我們推出新產品時,需求就會從零增加到一個非常大的數字,而這不可能一夜之間實現。一切都在加速,但這個過程不會加快。因此,每當我們推出新一代產品時,比如現在我們正在推出H200,我們就無法在短期內合理地滿足需求。
我們正在加強Spectrum X。我們在Spectrum X方面做得非常好,這是我們進入以太網世界的全新產品。InfiniBand是人工智能專用系統的標準。與Spectrum X相比,以太網並不是一個非常好的橫向擴展系統。但通過Spectrum X,我們在以太網之上增加了基本的新功能,例如自適應路由、路由、擁塞控制、噪聲隔離或流量隔離,以便我們可以優化用於人工智能的以太網。因此,InfiniBand將成爲我們的人工智能專用基礎設施,而Spectrum X將成爲我們的人工智能優化網絡,這一網絡正在不斷髮展。因此,您知道,對於所有新產品,需求都會超過供應,這是新產品的本質。我們會盡可能快地工作以滿足需求。但總體而言,我們的供應量增長得非常好。
接下來,TD Cowan的Matt Ramsey提出了一個問題。下午好,詹森,科萊特,祝賀您取得的成績。我想問一個分爲兩部分的問題,這正是史黛西想要表達的。儘管供應正在改善,您如何看待需求顯著超過供應的情況?我想問的兩個方面是,首先,對於科萊特來說,您如何考慮根據客戶的準備情況來分配產品,並監控是否有任何可能尚未開啓的產品堆積?然後,詹森,我真的很想聽聽您談談您和您的公司如何將產品分配給不同的客戶,這些客戶中許多人相互競爭,跨越不同行業,從較小的初創公司到醫療保健領域,再到政府部門。這是您正在推廣的一項非常獨特的技術,我真的很想聽聽您對此的看法。然後,科萊特,如果您能簡單談談引用/取消引用、公平分配,這不僅對您的公司有利,也對整個行業有利。
首先,我要感謝您提出的問題,特別是關於我們如何與客戶合作,幫助他們研究構建GPU實例以及我們的分配流程。
多年來,與我們合作的客戶已成爲我們的合作伙伴。我們一直在協助他們在雲端以及內部環境中進行設置。這些客戶中的許多人提供多種產品,以滿足不同的需求,這些需求不僅包括最終用戶的需求,還包括他們內部的需求。顯然,他們正在提前規劃,思考他們未來所需的新集羣。
我們與客戶的討論仍在進行中。我們不僅介紹了我們的Hopper架構,還幫助他們瞭解下一波技術浪潮,激發他們的興趣,並理解他們對未來需求的展望。因此,關於他們將購買什麼、正在建造什麼以及最終用戶正在使用什麼,這始終是一個不斷變化的過程。但是,我們建立的關係以及他們對構建複雜性的理解,確實幫助我們進行了資源分配,並促進了我們與他們的溝通。
首先,我們的CSP對我們的產品路線圖和過渡有非常清晰的瞭解。我們對CSP的透明度增強了客戶對使用我們產品的信心。他們知道應該部署哪些產品,以及何時何地部署。因此,他們儘可能地瞭解時間、數量以及分配情況。我們致力於公平分配資源,並避免不必要的分配。正如您之前提到的,爲什麼要在數據中心還未準備好時就分配資源呢?沒有什麼比讓資源閒置更加困難了。因此,我們努力實現公平分配並避免不必要的分配。
關於您提到的終端市場,我們擁有一個優秀的生態系統,包括OEM、ODM和通信服務提供商,以及非常重要的終端市場。NVIDIA的獨特之處在於,我們爲客戶和合作夥伴,包括CSP和OEM,帶來了客戶。我們服務的行業包括生物公司、醫療保健公司、金融服務公司、人工智能開發商、大型語言模型開發商、自動駕駛汽車公司和機器人公司,其中包括倉庫機器人、手術機器人、人形機器人和農業機器人等。所有這些初創公司、大公司、醫療保健、金融服務和汽車等行業的客戶都在NVIDIA的平臺上工作。我們直接支持他們,並且通常能夠通過將客戶引入CSP的同時,實現雙贏。因此,這個生態系統是充滿活力的。但其核心是,我們致力於公平分配,避免浪費,並尋找連接合作夥伴和最終用戶的機會。我們一直在尋找這些機會。
接下來,關於Timothy R.提出的問題,感謝您的提問。我想討論一下我們如何將積壓訂單轉化爲收入。顯然,我們產品的交貨時間已經大大縮短。雖然我沒有討論庫存購買承諾,但如果將我們的庫存、購買承諾和預付供應加在一起,實際上會看到有所下降。這意味着我們沒有必要做出太大的改變。是否因爲交貨時間縮短而對供應商做出財務承諾?或者,我們是否正在達到某種穩定狀態,更接近於填滿訂單簿和處理積壓訂單?
是的,讓我重點介紹一下我們如何看待供應商的這三個不同領域。你是對的,我們有現有庫存。鑑於我們的分配情況,我們正在努力,一旦物品進入庫存,就立即將它們運送給我們的客戶。我認爲我們的客戶對我們能夠滿足他們所期望的時間表的能力表示了讚賞。此外,我們的採購承諾也是他們高度評價的一個方面。我們的採購承諾涵蓋了多個不同的方面,包括我們自身製造所需的組件,以及我們可能需要採購的產能。這些所需的產能或組件的期限各不相同,有的可能是未來兩個季度的,有的可能是跨越多年的。對於我們的預付款,我們也採取了預先設計的方式,以確保我們在前進的過程中,擁有幾個製造供應商所需的儲備能力。因此,當我們增加供應時,我們不會遇到任何關於產能相似性的問題。
它們之間的區別主要在於長度,因爲我們有時不得不採購交貨時間較長的物品或需要建造的產能。感謝您的提問。我們在開場白中強調了我們第四季度的業績和第一季度的前景,這兩個季度都具有獨特性。這兩個季度的毛利率之所以獨特,是因爲它們包括了有利的組件成本等好處。因此,展望未來,我們預計本財年剩餘時間的毛利率將達到70年代中期的水平,這將使我們回到第四季度和第一季度峰值之前的水平。我們真正關注的是增長的平衡,對於MEX來說,它始終是我們今年剩餘時間發貨的最大驅動因素。
當您考慮過去十年中GPU計算的百萬倍改進以及對未來類似改進的期望時,我們的客戶對此非常看好。他們對今天進行的NVIDIA投資的長期可用性持樂觀態度。今天的訓練集羣可能會成爲明天的推理集羣。這正是最令人興奮的部分。我們能夠大幅提高性能的原因在於我們的平臺具有加速和可編程的特點,它並不脆弱。NVIDIA是唯一一個從一開始就經歷了從CNN、AlexNet的首次揭示,到RNN、LSTM、RL、深度學習RL、Transformer架構的每一個版本和每一個AI種類的公司。我們能夠支持每一種變化,優化我們的堆棧,並將其部署到我們的安裝基礎中。這確實代表了最偉大和最令人驚奇的部分。一方面,我們有能力發明新的架構和技術,如我們的張量核心及其Transformer引擎。我們不斷改進新的數值格式和處理結構,正如我們對不同代張量核心所進行的改進一樣。同時,我們也支持現有的安裝基礎。因此,我們採納了所有新的軟件算法發明、行業模型的創新,並使其在我們的安裝基礎上運行。另一方面,每當我們目睹像Transformer這樣的革命性創新時,我們就能夠創造出全新的東西,比如漏斗Transformer引擎,並將其應用於未來。因此,我們既有能力將軟件引入現有的安裝基礎,又能不斷地改進,以確保我們的客戶的安裝基礎能夠隨着時間的推移通過我們的新軟件得到增強。對於新技術而言,我們擁有創造革命性成果的能力。如果在我們的下一代產品中,大型語言模型實現了驚人的突破,請不要感到驚訝。這些突破,其中一些將在軟件方面實現,因爲它們運行在CUDA上,將可供安裝基礎使用。因此,我們一方面帶領每個人前進,另一方面,我們實現了巨大的突破。
關於中國業務的問題,您提到了我們開始向中國運送一些替代解決方案,並預計這將繼續佔據數據中心業務的個位數百分比。您想知道我們目前向中國市場運送的產品規模,以及爲什麼我們不應該期待可能有其他替代解決方案進入市場,從而擴大我們的市場份額。美國政府希望限制向中國市場推廣最新技術的能力,同時也希望我們在中國取得儘可能多的成功。在這兩個約束之間,我們面臨着限制。因此,當新的限制措施出臺時,我們不得不暫停我們的業務。我們立即停止發貨,以瞭解這些限制具體是什麼,並重新配置我們的產品,這些產品不是基於軟件的,無法被破解。這需要一些時間。因此,我們重新定位了我們的產品,現在正在向中國客戶提供樣品。我們將盡最大努力在這個市場中競爭並取得成功,同時遵守這些限制規定。上個季度,我們的業務大幅下滑,因爲我們暫停了在市場中的發貨。我們預計本季度的情況將大致相同,但希望之後我們能夠競爭並盡力而爲。我們將看看結果如何。
關於軟件業務,很高興聽到它的收入超過了十億美元。我想解釋一下NVIDIA在軟件方面非常成功的根本原因。首先,加速計算確實在雲中發展。在雲中,雲服務提供商擁有龐大的工程團隊。我們與他們的合作方式使他們能夠經營和管理自己的業務。每當出現任何問題時,我們都會派遣大型團隊來處理。他們的工程團隊與我們的工程團隊進行了直接合作。我們共同增強、修復、維護並修補涉及加速計算的複雜軟件堆棧。衆所周知,加速計算與通用計算大相徑庭。您不能僅僅從C++等編程語言開始。您需要編譯它,之後它才能在所有CPU上運行。每個領域所需的軟件堆棧各不相同,這包括數據處理、SQL結構化數據,以及所有非結構化的圖像、文本和PDF,還有經典機器學習、計算機視覺、語音和大型語言模型。所有這些都是推薦系統所需的,每種都需要不同的軟件堆棧。這就是爲什麼NVIDIA擁有數百個庫的原因。沒有軟件,就無法開拓新市場。沒有軟件,新應用程序也無法得到啓用。軟件對於加速計算至關重要。這是加速計算與通用計算之間根本區別的一個方面,大多數人需要很長時間才能理解。現在,人們已經明白軟件確實是關鍵所在。
我們與雲服務提供商(CSP)的合作方式非常簡單。我們有大型團隊與他們的大型團隊合作。然而,現在生成式人工智能讓每個企業、每個公司都成爲了一家擁抱加速計算的企業軟件公司。當下,接受加速計算已成必然,因爲僅依靠通用計算來提高吞吐量已不再可能。所有這些企業軟件公司和企業都沒有龐大的工程團隊來維護和優化他們的軟件堆棧,以便在全球雲、私有云和本地環境中運行。因此,我們將對他們的所有軟件堆棧進行管理、優化、修補、調整和基於安裝的優化。我們將它們容器化到我們的堆棧中。我們將其稱爲NVIDIA AI Enterprise,並以此方式推向市場。現在,將NVIDIA AI Enterprise視爲一個運行時環境,就像操作系統一樣。它是一個人工智能操作系統。我們對每個GPU每年收取4500美元的費用。我猜想,世界上每家企業、每家在所有云、私有云和本地部署軟件的軟件企業都將在NVIDIA AI Enterprise上運行,尤其是對於我們的GPU而言。因此,這將可能隨着時間的推移成爲一項非常重要的業務。我們已經有了一個良好的開端。科萊特提到,它的運行速度已經達到了十億美元。我們實際上纔剛剛開始。
謝謝。現在,我將電話轉回給首席執行官黃仁勳,讓其致閉幕詞。
計算機行業正在經歷兩個平臺的同時轉變。與此同時,價值數萬億美元的數據中心安裝基礎正在從通用計算轉向加速計算。每個數據中心都將進行加速,以便世界能夠跟上計算需求的提高,同時管理成本和能源。NVIDIA開啓了全新的計算範式。生成式人工智能使軟件能夠學習、理解和生成任何信息,從人類語言到生物學結構和3D世界。我們現在正處於一個新行業的開端,人工智能專用數據中心處理海量數據,將原始數據提煉爲數字智能。就像上次工業革命中的交流發電廠一樣,NVIDIA AI超級計算機本質上是這次工業革命的人工智能工廠。每家公司和每個行業從根本上來說都是建立在其專有的商業智能以及未來專有的生成式人工智能的基礎上的。生成式人工智能開啓了一個全新的投資週期。下一個萬億美元的人工智能生成工廠基礎設施。我們相信,這兩種趨勢將推動全球數據中心基礎設施安裝基數在未來五年內翻一番,並代表每年數千億的市場機會。這種新型的人工智能基礎設施預示着一個全新應用領域的開端,這是在當前條件下無法實現的。我們的人工智能之旅始於NVIDIA的超一代技術。在這一過程中,我們與超過一百萬家規模的雲服務提供商以及消費者互聯網公司進行了合作。如今,各個行業均已加入這一行列,包括汽車、醫療保健、金融服務、工業、電信、媒體和娛樂等領域。
NVIDIA提供的全棧計算平臺、針對特定行業的應用程序框架,以及龐大的開發者和合作夥伴生態系統,使我們能夠以前所未有的速度、規模和覆蓋範圍,幫助各行業的企業轉型爲人工智能公司。
在下個月於聖何塞舉行的GTC上,我們將有許多內容與大家分享,因此非常期待您的參與。我們也期待在那時向您報告下一季度的最新進展。至此,今天的電話會議就此結束。