作者：中國(guó)信息通信研究院數(shù)據(jù)研究中心 張彥坤 中國(guó)信息通信研究院技術(shù)與標(biāo)準(zhǔn)研究所 陳敏
生成式人工智能和大模型技術(shù)的快速發(fā)展，拉開(kāi)了全球大算力時(shí)代的序幕，科技巨頭紛紛重金布局AI算力基建，促使AI處理器需求呈“井噴”態(tài)勢(shì)。其中，HBM（高帶寬存儲(chǔ)器）作為核心器件，需求熱度持續(xù)上升。全球HBM市場(chǎng)目前已形成SK海力士、三星電子和美光三足鼎立的態(tài)勢(shì)。三大存儲(chǔ)原廠積極布局HBM技術(shù)研發(fā)，推動(dòng)產(chǎn)能擴(kuò)張計(jì)劃，在2024年陸續(xù)推出第五代HBM3E產(chǎn)品�？v觀HBM全產(chǎn)業(yè)鏈，我國(guó)本土企業(yè)參與者寥寥無(wú)幾。因此，我國(guó)HBM技術(shù)面臨自主可控與市場(chǎng)競(jìng)爭(zhēng)雙重壓力，亟待加快步伐，奮起直追。
HBM市場(chǎng)概況
隨著人工智能尤其是生成式人工智能和大模型技術(shù)的快速發(fā)展，全球算力需求迎來(lái)爆發(fā)式增長(zhǎng)。眾多云計(jì)算廠商、大模型廠商紛紛加大AI算力基礎(chǔ)設(shè)施建設(shè)的投資，因此AI處理器需求急速攀升，而作為其中關(guān)鍵器件之一的HBM需求也不斷增長(zhǎng)。
HBM屬于圖形DDR（雙倍速率同步動(dòng)態(tài)隨機(jī)存儲(chǔ)器）內(nèi)存的一種，具有高帶寬、高容量、低延時(shí)與低功耗等優(yōu)勢(shì)。它將多個(gè)DDR芯片堆疊在一起，再與GPU封裝合成，通過(guò)增加帶寬、擴(kuò)展內(nèi)存容量組成DDR組合陣列，以實(shí)現(xiàn)“讓更大的模型、更多的參數(shù)留在離核心計(jì)算更近的地方”，從而減少內(nèi)存和存儲(chǔ)解決方案所帶來(lái)的延遲。在AI大模型訓(xùn)練推理過(guò)程中，HBM可加快數(shù)據(jù)處理速度，因此更適用于ChatGPT等高性能計(jì)算場(chǎng)景。
從技術(shù)迭代上看，自2014年全球首款硅通孔HBM產(chǎn)品問(wèn)世以來(lái)，已經(jīng)從HBM、HBM2、HBM2E，發(fā)展至第四代HBM3和第五代HBM3E。數(shù)據(jù)顯示，2023年HBM市場(chǎng)主流產(chǎn)品為HBM2E，NVIDIA A100/A800、AMD MI200以及多數(shù)CSPs自研加速芯片皆以此規(guī)格設(shè)計(jì)。為順應(yīng)AI加速器芯片需求演進(jìn)，存儲(chǔ)器廠商陸續(xù)在2024年推出新產(chǎn)品HBM3E，預(yù)計(jì)HBM3與HBM3E將成為今年市場(chǎng)主流產(chǎn)品。至于更高規(guī)格的HBM4，集邦咨詢(xún)預(yù)計(jì)其有望于2026年推出。
隨著AI等相關(guān)應(yīng)用需求的激增，HBM市場(chǎng)規(guī)模也在大幅增長(zhǎng)。據(jù)多家咨詢(xún)機(jī)構(gòu)預(yù)測(cè)，全球HBM市場(chǎng)將迎來(lái)快速發(fā)展期。數(shù)據(jù)顯示，全球HBM營(yíng)收規(guī)模到2025年將達(dá)到49.76億美元，較2023年增長(zhǎng)148.2%。預(yù)計(jì)從2024年到2029年，全球HBM市場(chǎng)規(guī)模將從25.2億美元左右激增至79.5億美元，預(yù)測(cè)期內(nèi)復(fù)合年增長(zhǎng)率高達(dá)25.86%。未來(lái)，全球HBM內(nèi)存市場(chǎng)將繼續(xù)擴(kuò)大，產(chǎn)能及市場(chǎng)份額也將持續(xù)提升。
三大存儲(chǔ)巨頭的競(jìng)爭(zhēng)格局和技術(shù)路線(xiàn)
目前全球HBM市場(chǎng)高度集中，主要由SK海力士、三星電子和美光三家存儲(chǔ)大廠主導(dǎo)，2022年其在HBM市場(chǎng)的占有率分別為50%、約40%和約10%。數(shù)據(jù)顯示，2023年SK 海力士市場(chǎng)占有率達(dá)53%，而三星電子、美光市場(chǎng)占有率分別為38%及9%。
技術(shù)路線(xiàn)及業(yè)績(jī)表現(xiàn)
從存儲(chǔ)大廠HBM布局路線(xiàn)來(lái)看，SK海力士作為HBM技術(shù)的先行者，早在2014年就與AMD合作開(kāi)發(fā)了全球首款HBM。隨后SK海力士又陸續(xù)成功研發(fā)出HBM迭代產(chǎn)品，分別在2016年、2019年、2021年以及2023年發(fā)布HBM2、HBM2E、HBM3和HBM3E產(chǎn)品。隨著以ChatGPT為代表的生成式AI的持續(xù)火爆，AI服務(wù)器出貨量的增長(zhǎng)帶動(dòng)HBM需求大漲。在HBM和DDR5的支撐下，SK海力士在2023年第四季度率先迎來(lái)盈利。SK海力士2024年第一季度財(cái)報(bào)顯示，DRAM業(yè)務(wù)收入占比61%，公司憑借HBM等面向AI的存儲(chǔ)器，營(yíng)業(yè)利潤(rùn)環(huán)比實(shí)現(xiàn)734%增長(zhǎng)。SK海力士表示將繼續(xù)順應(yīng)AI存儲(chǔ)器需求增長(zhǎng)的趨勢(shì)，加大于HBM3E產(chǎn)品供應(yīng)。
三星電子針對(duì)HBM技術(shù)的研發(fā)雖晚于SK海力士，但直接從HBM2起步，于2016年推出HBM2產(chǎn)品，2020年2月推出HBM2E產(chǎn)品，2021年2月推出了HBM-PIM（存算一體），實(shí)現(xiàn)了內(nèi)存半導(dǎo)體和AI處理器合二為一，其HBM3也于2023年量產(chǎn)。2024年2月底三星電子發(fā)布首款36GB HBM3E 12H DRAM，這是三星電子迄今為止容量最大的HBM產(chǎn)品。目前，三星電子已開(kāi)始向用戶(hù)提供HBM3E 12H樣品，預(yù)計(jì)于今年下半年大規(guī)模量產(chǎn)。三星電子在今年一季報(bào)發(fā)布后還設(shè)定新目標(biāo)，計(jì)劃年底實(shí)現(xiàn)HBM芯片產(chǎn)量3倍以上增長(zhǎng)。
美光科技于2016年推出首款HBM2方案，隨后選擇跳過(guò)第四代HBM3，直接布局第五代HBM3E。2023年9月美光推出HBM3E，并于2024年2月26日宣布批量生產(chǎn)。隨著HBM3E產(chǎn)品開(kāi)始量產(chǎn)并供貨于NVIDIA H200，美光有望在未來(lái)的GPU市場(chǎng)上取得更高占有率。財(cái)報(bào)顯示，美光2024財(cái)年第二財(cái)季（截至2月底）已實(shí)現(xiàn)DRAM營(yíng)收42億美元，占總營(yíng)收的71%。此外，美光2024財(cái)年資本支出預(yù)計(jì)在75億美元至80億美元間，高于去年資本支出和此前規(guī)劃，主要是為了支持HBM3E的產(chǎn)量增長(zhǎng)。
產(chǎn)能擴(kuò)張計(jì)劃
隨著NVIDIA、AMD等廠商不斷推出高性能GPU產(chǎn)品，三大存儲(chǔ)原廠也在積極規(guī)劃相對(duì)應(yīng)規(guī)格的HBM量產(chǎn)。SK海力士公司今年4月正式宣布，為應(yīng)對(duì)全球范圍內(nèi)快速增長(zhǎng)的AI需求，公司計(jì)劃投資19萬(wàn)億韓元（約1000億元人民幣），擴(kuò)大包括HBM在內(nèi)的下一代DRAM的產(chǎn)能。SK海力士已通過(guò)董事會(huì)決議，將位于韓國(guó)忠清北道清州市的M15X晶圓廠定為新的DRAM生產(chǎn)基地。SK海力士將投資約5.3萬(wàn)億韓元用于廠房建設(shè)，并于4月底啟動(dòng)建設(shè)工程。
為擴(kuò)大HBM產(chǎn)能，三星電子已于2023年底收購(gòu)Samsung Display(三星顯示）韓國(guó)天安廠區(qū)內(nèi)部分建筑及設(shè)備，用于HBM生產(chǎn)。三星電子計(jì)劃在天安廠建立一條新封裝線(xiàn)，用于大規(guī)模生產(chǎn)HBM，該公司已花費(fèi)105億韓元購(gòu)買(mǎi)以上建筑和設(shè)備等，預(yù)計(jì)還將追加投資7000億～1萬(wàn)億韓元。
美光科技已于2023年11月初正式啟用位于中國(guó)臺(tái)灣的臺(tái)中四廠。臺(tái)中四廠將整合先進(jìn)探測(cè)與封裝測(cè)試功能，量產(chǎn)HBM3E及其他產(chǎn)品，從而滿(mǎn)足人工智能、數(shù)據(jù)中心、邊緣計(jì)算及云端各類(lèi)應(yīng)用日益增長(zhǎng)的需求。該工廠已于2024年初開(kāi)始大規(guī)模量產(chǎn)HBM3E。
下一步技術(shù)布局
圍繞搭載于NVIDIA下一代AI芯片中的HBM3E，三大存儲(chǔ)廠商展開(kāi)了激烈競(jìng)爭(zhēng)。美光、SK海力士和三星電子先后在2023年7月底、8月中旬以及10月初，向NVIDIA提供了8層垂直堆疊的HBM3E（24GB）樣品。其中美光和SK海力士的HBM3E在今年初已通過(guò)NVIDIA的驗(yàn)證，并獲得了訂單；NVIDIA在3月中旬GTC大會(huì)上確認(rèn)三星電子HBM 產(chǎn)品正處于驗(yàn)證階段。
在角逐HBM3E的同時(shí)，三大存儲(chǔ)原廠已開(kāi)始布局下一代存儲(chǔ)產(chǎn)品HBM4。SK海力士已宣布研發(fā)HBM4，并與臺(tái)積電就HBM4研發(fā)和下一代封裝技術(shù)合作簽署諒解備忘錄，計(jì)劃從2026年開(kāi)始批量生產(chǎn)HBM第六代產(chǎn)HBM4。據(jù)悉，SK海力士將采用臺(tái)積電的先進(jìn)邏輯工藝來(lái)提高HBM4的性能，針對(duì)搭載于HBM封裝內(nèi)最底層的基礎(chǔ)裸片進(jìn)行優(yōu)化。三星電子自2024年以來(lái)已成立兩個(gè)全新HBM團(tuán)隊(duì)，并將HBM工作小組轉(zhuǎn)為芯片部門(mén)下常設(shè)辦公單位。三星電子HBM團(tuán)隊(duì)計(jì)劃于2025年推出HBM4，2026年實(shí)現(xiàn)量產(chǎn)。美光作為HBM市場(chǎng)后起之秀也在積極布局HBM4，計(jì)劃在2026年至2027年間，推出容量在36GB到48GB、12/16層垂直堆疊的HBM4產(chǎn)品，并于2028年推出帶寬增加至2TB/s以上的HBM4E。
我國(guó)廠商參與HBM產(chǎn)業(yè)鏈情況
在“算力”需求催生“存力”的機(jī)遇下，我國(guó)廠商國(guó)產(chǎn)AI處理器水平穩(wěn)步提升，對(duì)配套自主HBM供應(yīng)鏈的需求也越發(fā)迫切。縱觀整個(gè)HBM產(chǎn)業(yè)鏈，研發(fā)、制造涉及復(fù)雜的工藝和技術(shù)難題，包括晶圓級(jí)封裝、測(cè)試技術(shù)、設(shè)計(jì)兼容性等，能入局的國(guó)內(nèi)企業(yè)屈指可數(shù)。
目前，我國(guó)長(zhǎng)電科技、通富微電和盛合晶微等一線(xiàn)封裝廠商擁有支持HBM生產(chǎn)的技術(shù)（如TSV硅通孔）和設(shè)備。在其余供應(yīng)鏈上，芯片設(shè)計(jì)企業(yè)國(guó)芯科技已與合作伙伴基于先進(jìn)工藝開(kāi)展流片，并與上下游合作廠家積極開(kāi)展包括HBM技術(shù)在內(nèi)的高端芯片封裝合作。紫光國(guó)微的HBM作為特種集成電路產(chǎn)品，目前還處于研發(fā)階段。香農(nóng)芯創(chuàng)作為SK海力士分銷(xiāo)商之一具有HBM代理資質(zhì)，未來(lái)將根據(jù)下游用戶(hù)需求，在原廠供應(yīng)有保障的前提下提供相應(yīng)產(chǎn)品銷(xiāo)售服務(wù)。上游材料企業(yè)飛凱材料生產(chǎn)的MUF（環(huán)氧塑封料）是HBM存儲(chǔ)芯片制造技術(shù)所需材料之一，其中液體封裝材料LMC已經(jīng)量產(chǎn)并形成少量銷(xiāo)售，顆粒填充封裝料GMC尚處于研發(fā)送樣階段。興森科技的FC-BGA封裝基板可用于HBM存儲(chǔ)的封裝，但目前尚未進(jìn)入海外HBM龍頭產(chǎn)業(yè)鏈。
由此可見(jiàn)，我國(guó)僅有為數(shù)不多的廠商打入全球HBM供應(yīng)鏈體系，且主要集中在上游材料環(huán)節(jié)，HBM產(chǎn)業(yè)鏈仍被海外廠商主導(dǎo)。
我國(guó)HBM發(fā)展建議
AI大模型的興起催生了海量算力需求，未來(lái)在AI模型逐漸復(fù)雜化的趨勢(shì)下，服務(wù)器的數(shù)據(jù)計(jì)算和存儲(chǔ)需求將持續(xù)增長(zhǎng)，算力的多寡也將成為制約一個(gè)國(guó)家AI發(fā)展的重要因素。國(guó)產(chǎn)AI算力當(dāng)前面臨先進(jìn)制程產(chǎn)能、CoWoS封裝與HBM三大瓶頸，HBM更是國(guó)產(chǎn)AI算力的重中之重。
當(dāng)前HBM技術(shù)主要被美韓廠商把持，國(guó)產(chǎn)HBM正處于“0到1”的突破期。在我國(guó)高端GPU受限的情況下，無(wú)論從自主可控還是市場(chǎng)競(jìng)爭(zhēng)角度，國(guó)產(chǎn)AI處理器的突破迫在眉睫，HBM的同步突圍更需加快布局。建議從國(guó)家層面加強(qiáng)頂層設(shè)計(jì)，加大關(guān)鍵技術(shù)研發(fā)力度，協(xié)同產(chǎn)業(yè)鏈上下游共同實(shí)現(xiàn)HBM等核心技術(shù)突破，以早日實(shí)現(xiàn)高性能AI處理器的國(guó)產(chǎn)化。
