產業分析
(每日產業熱點)ASIC伺服器概念股撐盤,PCB中上游類股中台光電成領頭羊
人工智慧(AI)的崛起標誌著一個全新時代的到來。隨著運算需求的不斷增加,各大科技公司積極推動相關技術革新,以滿足市場對於高效能和高能效產品的渴求。在這股浪潮中,NVIDIA推出了更大、更強的Blackwell架構GPU,進一步推動了AI伺服器性能的提升,也使得電源供應器、散熱供應鏈同受惠,以下就來看看2025年的AI伺服器關鍵趨勢及相關受惠者吧!
NVIDIA GB200 NVL72伺服器機架連接36個Grace CPU和72個Blackwell GPU,搭載水冷解決方案,擁有72個使用NVL互聯的GPU,能夠作為單一大型的GPU使用,並為擺有兆級參數的LLM提供30倍的即時推論速度。GB200 NVL72的核心是NVIDIA GB 200 Grace Blackwell晶片,它透過NV Link晶片到晶片(C2C)介面連接2個高效能NVIDIA Blackwell Tensor Core GPU和Nvidia Grace CPU,可提供900 GB/s的雙向頻寬。藉助NV Link C2C,應用程式可以對統一記憶體空間進行一致存取,這簡化了編程並支援萬億參數LLM、多模式任務的變壓器模型、大規模模型,以及3D資料生成模型的更大記憶體需求。
此外,GB200運算托盤基於全新NVIDIA MGX設計,包含有2個Grace CPU和4個Blackwell GPU;具有用於液體冷卻的冷板和連接、用於高速網路的PCIe Gen 6支援以及用於NV Link連接線盒的NV Link連接器,GB200運算託盤可提供80 petaFLOPS的AI效能和1.7 TB的快速記憶體。
圖:GB200 NVL72將上兆參數語言模型的即時推論效能加快30倍
資料來源:Cadence(2024/12)
NVIDIA GB200超級晶片由2顆B200 GPU和1顆Nvidia CPU組合而成。B200由2個Blackwell晶粒與8顆HBM 3記憶體組成,擁有2,080億個電晶體,是前一代H100晶片的2.6倍,主要採用台積電(2330)4奈米製程代工,封裝方式則改用台積電CoWoS-L製程。
受惠於NVIDIA強勁的AI伺服器需求,台積電積極擴產CoWoS產能,玉山投顧預期2024年底台積電CoWoS月產能將來到4萬片,2025年底月產能則可望達到7.5萬片,且月產能將呈現逐季成長,總計2024年產能落在30~35萬片、2025年產能則為60~65萬片。另外,SoIC去年底的產能約為2,000片,2024年底將續增至6,000片,2025年有望倍增至1.4萬片。
資料來源:玉山投顧(2024/12)
而從北美4大CSP廠商的資本支出金額來看,廠商表示AI投入不足之風險高於AI投資過剩之風險,對於AI投資態度並未改變。玉山投顧預估2024、2025年4大CSP廠商資本支出為2,060、2,230億美元,年增率分別為40%與8%,換言之,明年資本支出仍可再創新高,但預期資本支出的年增率高峰已過,CSP廠商投資則會維持高檔。
資料來源:玉山投顧(2024/11)
NVIDIA目前最熱賣的Hoppe晶片具備800億個電晶體,功耗為700瓦,而今年預估會放量的Blackwell晶片具備2,080億個電晶體,預估能耗接近1,200瓦,而GB200晶片設計是採用1顆Grace CPU與2顆Blackwell GPU組成,整體功耗將達到驚人的2,700瓦。有鑒於 AI伺服器能耗不斷上升,且未來的成長趨勢明確,玉山投顧預估2024年AI伺服器電源供應器市場規模將成長 120%到11億美元,2025年更將挑戰18.7億美元,成長動能強勁。
目前AI伺服器對電源供應器的要求是高瓦數與高轉換效率,一般廠商切入難度高,參考2023年市場份額,台達電(2308)佔5成,光寶科(2301)佔2成,其餘是美商施耐德電機與日本廠商,這些都會是有機會受惠的廠商,尤其台達電受惠趨勢明確。
此外,雖然光寶科無法於初期獲得GB200 AI伺服器的電源供應器訂單,但目前已經有客戶開案,預估2025年開始放量。因此,玉山投顧預期光寶科在 AI電源供應器市場的份額減少比重有限。
資料來源:玉山投顧(2024/12)
市場原先預期2024年NVIDIA推出BlackWell架構後,B100、B200伺服器仍採用3D VC氣冷設計,水冷放量時程預計為2025下半年。不過,GB200晶片的效能遠高於 H100系列,加上雲端服務業者推出AI應用後,推論伺服器的需求激增。因此,BlackWell 晶片將以 GB200架構出貨為主,且考量GB 200 NVL 72伺服器的1U高度設計,將無法使用 3D VC 氣冷,故水冷散熱模組滲透率有望在2025年快速提高,相關受惠者有奇鋐(3017)、雙鴻(3324)。
圖:GB200需求暢旺,引爆水冷散熱商機
H100 |
H200 |
GH200 NVL32 |
B100 |
B200 |
GB200 NVL72 |
|
平台 |
Vulcan |
Vulcan |
Oberon |
Umbriel |
Umbriel |
Oberon |
架構 |
X86 |
X86 |
Arm |
X86 |
X86 |
Arm |
TDP |
700W |
700W |
900W |
700W |
1,200W |
1,200W |
功耗 |
700W |
700W |
1,000W |
1,040W |
1,040W |
2,700W |
散熱方案 |
3D VC氣冷 |
3D VC氣冷 |
水對氣 |
3D VC氣冷 |
3D VC |
水對氣散熱 |
資料來源:NVIDIA、玉山投顧(2024/12)
<延伸閱讀:(玉山2024產業論壇)AI伺服器發燙 台廠決勝液冷散熱模組誰能勝出?>
值得留意的是,GB200 NVL 72資料中心是由8台伺服器組成,另外包含10根水冷管及2個SideCar,玉山投顧依據SideCar單價10~12萬美元計算,整體資料中心的散熱價值將提升至100萬美元以上,將為相關業者帶來機會。此外,電源供應器業者台達電(2308)、光寶科(2301)均能自製大部分的散熱零組件,也有能力將電源供應器結合散熱模組提供給 OEM、ODM業者,玉山投顧看好雖相關業者目前完整解決方案的出貨數量很低,但2025 年將貢獻營收,將同樣成為散熱趨勢下的受惠者。
圖:散熱供應鏈與相關產品
產品別 |
In Server |
In Rack |
Out Rack |
Data Center level |
||||
產品 |
均熱片 |
水冷板 |
風扇 |
分岐管 |
快接頭 |
CDU |
Side Car |
資料中心散熱 |
奇鋐 |
|
P |
P |
P |
P |
P |
P |
|
雙鴻 |
|
P |
|
P |
P |
P |
|
|
建準 |
|
|
P |
|
|
|
|
|
健策 |
P |
|
|
|
|
|
|
|
台達電 |
|
P |
P |
P |
P |
P |
P |
P |
光寶科 |
|
P |
|
P |
P |
P |
P |
|
Nidec |
|
|
|
|
|
P |
|
|
超眾 |
|
P |
P |
|
|
|
|
|
高力 |
|
|
|
P |
P |
P |
P |
|
Cooler Master |
|
P |
|
|
|
|
|
|
CoolIT |
|
P |
|
P |
P |
|
|
|
Vertiv |
|
|
|
|
|
P |
P |
|
資料來源:玉山投顧(2024/12)
<延伸閱讀:策略選股工具實戰-族群股短線操作法>
<延伸閱讀:策略選股工具實戰-短線動能突破飆股選股法>