在全球AI軍備競賽加速推進之際,輝達再度於Computex大秀最新技術與產品布局,從GB300、NVLink Fusion到DGX與RTX PRO平台全面升級,不僅強化資料中心規模化能力,更試圖打入AI ASIC市場、擴大晶片市占。以下為您整理輝達八大亮點,帶您掌握其最新研發動向、產業合作版圖與未來成長潛力,協助您掌握前瞻科技趨勢、精準卡位AI主流受惠股。
重申GB200已進入生產階段,25Q3將推出GB300。GB300提供較GB200 1.5倍HBM容量、2倍頻寬及1.5倍算力,100%水冷散熱,每節點效能達40 PFLOPS,相當於Sierra超級電腦。
同時,展示了NVLink Spine技術,包含5,000條同軸線纜、可連接72個GPU,總頻寬達130 TB/s,超越全球整個互聯網的高峰總流量。
NVLink Fusion讓全球任何想蓋資料中心的企業,不論是否使用Nvidia AI GPU,都能搭配使用NVLink,協助企業將其半客製化AI基礎建設「scale up」到超級電腦等級的運算能力。
另一方面,客戶可與輝達合作夥伴世芯-KY、Astera Labs、Marvell、聯發科、Cadence(益華電腦)、Synopsys(新思科技)取得NVLink Fusion晶片設計服務與解決方案,並表示Fujitsu(富士通)、高通正在設計自己的CPU,且將整合NVLink。
宣布與鴻海、台灣國家科學及技術委員會(NSTC)、台積電在台灣聯合打造AI基礎建設。輝達因應其持續在台灣擴大規模,擴大與台灣廠商的合作、台灣工程師人數也不斷增加,宣布輝達首個海外總部、台灣總部大樓——「Nvidia Constellation」,將落腳於北投士林科技園區(新光人壽T17、T18)。
執行長黃仁勳展示CoreWeave、Oracle Cloud等客戶的AI資料中心,並表示「資料中心不只是儲存和計算的空間,而是一座AI工廠」。展示xAI Colossus 150MW的超級電腦與Stargate德州1.2GW的AI工廠,其中Stargate德州AI工廠的面積達400萬平方英尺,預估耗資約600~800億美元,其中電子設備、運算系統等約400~500億美元,超過65%。
輝達持續更新CUDA-X函式庫,以求實現更多驚人應用,帶給客戶更多價值、更多收入。進一步觀之,新函式庫包含 Aerial(5G、6G訊號處理)、Parabricks(基因定序)、MONAI(醫學影像分析)、Earth-2(天氣模擬與預測)、cuQuantum(模擬量子與傳統混合架構)、cuEquivariance(張量數學的收縮運算)、cuDF(支援資料框)、cuML(經典機器學習)、WARP(可撰寫CUDA核心的Python框架)、cuOPT(處理數學最佳化問題)、cuDSS(稀疏矩陣模擬)、cuLitho(計算光刻)。以及TSMC、ASML及Synopsys(新思科技)都在使用cuLitho。
今年1月CES展推出的DGX Spark(原Project Digits)已進入量產,搭載GB10晶片、128GB LPDDR5X記憶體,具1 PFLOPS算力。另一方面,DGX Station搭載GB300晶片、800GB記憶體及ConnectX-8 SuperNIC,具20 PFLOPS算力,可訓練1兆參數模型,適用於大模型訓練與推論。主要合作夥伴有華碩、Dell、技嘉、HP、Lambda、微星及Supermicro。
推出並已開放購買RTX PRO Server,搭載8張RTX PRO 6000 Blackwell GPU、800GB記憶體、ConnectX-8 SuperNIC Switch,算力達30 PFLOPS、RTX圖形運算效能3 PFLOPS。RTX PRO Server Rack則搭載4台RTX PRO Server,算力達120 PFLOPS。RTX PRO 6000 Blackwell GPU搭載96GB GDDR7,記憶體頻寬1.6TB/s,算力達4 PFLOPS。
玉山投顧分析:本次輝達亮點為NVLink Fusion。輝達試圖部分切入AI ASIC,將競爭關係轉為合作,推測OpenAI、Apple等剛開始設計自家ASIC的公司採用意願較高,CSP採用意願則將在IP授權金、晶片互連效益、依賴輝達程度下進行權衡,有望吃下更多晶片互連市占。後續則可觀察NVLink IP採用狀況、Computex參展廠商是否展出更多終端應用,以刺激產品需求。整體而言,輝達GB200導入量產、晶片管制朝向「對中國嚴格、對其他國家放鬆」的方向實施,有利於評價回到過往水準。