FOREXBNB獲悉,11月21日,英偉達(NVDA.US)召開FY25Q3業績會。英偉達介绍,Blackwell正在全力生產,本季交付的Blackwell超出預期,公司正努力擴大明年的產能,但需求仍超過供給,CSP對Blckawell的需求很強勁。公司已經有幾代的整合經驗,但目前仍有許多工作需要完成,Blackwell的需求很好,本季度供应量和发货量都超出預期。
路線圖方面,公司正在努力執行年度路線圖,並在提供平台性能的同時,致力於減少訓練、推理成本,降低AI的使用門檻,以及在電力資源有限的情況下最大化單位能耗的性能,一切按計劃進行。
Hopper的需求持續到明年前幾季度。Blackwell下個季度交付的數量也會比這個季度更高,下個季度繼續增長。毛利率方面,公司預計隨著Blackwell陸續出貨,毛利率會開始成長,預計毛利率在75%左右。
Q&A
Q:Blackwell需求的驅動力?
A:基礎模型預訓練的擴展仍在延續。除此外,還有兩種擴展:(1)訓練後擴展,第一代是強化學習人工回饋,現在有基於合成數據的擴展;(2)推理時間的擴展,比如strawberry、chatgpt o1等模型,思考的時間越長,答案的品質越高,模型也會考慮思路鏈、多路徑規劃、反思等方案,模擬人類回答問題時腦海中的思考模式。
因此,現在有三種擴展,產生對公司基礎設施強大的需求,上一代模型用10萬個hopper,下一代用10萬個Blackwell。
另外,推理的成長也會推動需求,公司現在是全球最大的推理平台,未來Blackwell會用於訓練,也會用於推理。
最後,企業對AI Agent的需求成為最新的潮流,這也推動了需求
Q:考慮到最近發熱問題相關的傳聞,市場關心公司能否按GTC提出的規劃順利發佈各項產品?Blackwell的產能瓶頸現在是什麼環節?
A:(1)Blackwell正在全力生產,本季交付的Blackwell超出預期,公司正努力擴大明年的產能,但需求仍超過供給,CSP對Blckawell的需求很強勁。
(2)公司已經有幾代的整合經驗,但目前仍有許多工作需要完成,Blackwell的需求很好,本季供應量和出貨量都超出預期;
(3)供應鏈方面,Blackwell有很多平台,包括風冷/液冷、NVL72/NVL36、X86/Grace等不同組合,得到了全球供應鏈的支持,包括台積電、安費諾、Vertiv、SK-海力士、美光、安靠、京元電、富士康、廣達、緯穎、戴爾、惠普、聯想等公司,供應鏈夥伴數量驚人;
(4)路線圖方面,公司正在努力執行年度路線圖,並在提供平台性能的同時,致力於減少訓練、推理成本,降低AI的使用門檻,以及在電力資源有限的情況下最大化單位能耗的性能,一切按計劃進行。
Q:考慮到Q4 blackwell收入可能會超過原先數十億美元的預期,公司預計什麼時候Blackwell收入超過hopper?毛利率展望?
A:(1)Hopper的需求持續到明年前幾季度;Blackwell下個季度交付的數量也會比這個季度更高,下個季度繼續增長;
(2)毛利率方面,公司預計隨著Blackwell陸續出貨,毛利率會開始成長,預計毛利率在75%左右;
(3)市場正在兩個計算轉型的窗口,一個是cpu轉型gpu,第二個是機器學習的發展,現在的資料中心是AI智慧工廠,能產生新的資料,如果客戶很多,這些工廠會全天候運作,這與過去的資料中心有所不同,这两个轉型将持续数年。
Q:明年下半年恢復75%毛利率是否為合理假設?公司預計什麼時候會看到市場進入硬體的消化週期?公司預計需要幾個季度來滿足第一輪需求?
A:(1)公司認為明年下半年有可能恢復到mid70%的毛利率。
(2)現在絕大多數資料中心都是CPU時代的產物,並不符合資料中心現代化的需求,未來開出來的資料中心專案都會是AI的,這種轉型是一部分需求;
(3)同時,生成式AI也在帶動新的增量,比如openAI、harvey、runway,這些並不是取代過去的功能,而是新的事物。
綜上,資料中心的現代化以及AI新應用的帶動,會推動硬體的需求。
Q:毛利率下限預計是多少?下個季度hopper是否可能季減?
A:首先,毛利率低點可能是71%-72.5%這個範圍,公司目標改善到75%。
Hopper Q4還會繼續銷售,同時,Blackwell的需求也很強勁,兩者都會發生,至於Hopper Q4的環比表現,有可能可以實現環比成長,但仍需繼續觀察。
Q:公司在推理市場的看法?
A:公司的願景是未來世界出現大量推理場景,那才是AI的真正成功,公司希望看到每家公司都在進行全天候的推理,使用者開啟Outlook、Powerpoint、excel、PDF時的體驗都在生成token;另外,公司對物理AI也有所期待,這對於工業AI、機器人很有價值,也是很多AI新創團隊的機會,這是公司構建omniverse的原因。
公司的目標是推理,並且看到這一成長趨勢正在發生。推理的難度包括準確度、高吞吐量、低成本、低延遲、多模態等,這些創新和要求下,英偉達的架構、生態系表現很棒,任何創新都可以進入英偉達的運算平台,無論是資料中心還是機器人等邊緣場景。
Q:網路業務的現況?
A:網路年比維持高增,本季只是略有下滑,但成長勢頭預計很快恢復,團隊正在為blackwell和越來越多的系統做準備。
Q:主權AI的展望?
A:公司提到了很多公司在主權AI方面的項目,因此,主權AI的表現和pipeline仍然很好,各國正致力於用自己的語言、文化建構模型,這會是一個成長機會,包括歐洲的機會、亞太的機會。
Q:公司現在遊戲業務進展如何?是否有產能被擠佔的問題?
A:本公司努力確保不同產品的供應能力,遊戲方面的供給沒有問題,挑戰在於能以多快的速度投向市場,隨著更多供應商回歸正軌預計有所改善,本季只是暫時性地供給緊張。
Q:隨著供給爬坡,環比增速是否還會再度提速?
A:公司只提供一個季度的指引,隨著下個季度blackwell逐步放量,公司會給更多訊息。
Q:中國資料中心業務的展望?大選後是否出現變化
A:無論新政府有什麼要求,公司會完全遵守法規規定,並盡最大努力支持客戶、參與市場競爭。
Q:現在訓練、推理大概的比重?公司提到三個擴展的比重?
A:目前主要在基礎模型的預訓練,訓練後的新技術才剛出現,另外,還需要盡可能降低推理的成本,三個擴展都在發展,市場需要越來越多的計算,因此公司必須盡最大努力將性能一次提高好幾倍,才能保持計算成本的下降。