作者:暢秋
在晶圓代工領域,三星與臺積電是純粹的競爭關系,但在存儲芯片市場,作為行業(yè)霸主,三星卻不得不尋求與臺積電深入合作,這都是英偉達惹的禍。
據DigiTimes報道,三星HBM3E內存尚未通過英偉達的測試,仍需要進一步驗證,這是因為卡在了臺積電的審批環(huán)節(jié)。作為英偉達AI GPU芯片的制造和封裝廠,臺積電是英偉達驗證環(huán)節(jié)的重要參與者。據悉,臺積電采用的是基于SK海力士HBM3E產品設定的檢測標準,而三星的HBM3E產品在制造工藝上有些差異,例如,SK海力士芯片封裝環(huán)節(jié)采用了MR-MUF材料技術,三星則是基于TC-NCF技術,這會對一些參數產生影響。
三星在4月表示,其8層垂直堆疊的HBM3E已經在4月量產,并計劃在今年第二季度量產12層堆疊的HBM3E,比原計劃提前了一個季度。按照三星的說法,為了更好地應對生成式AI日益增長的需求,該公司加快了新款HBM產品的項目進度。
自從HBM問世并量產以來,SK海力士一直是英偉達為其AI GPU配備該類內存的獨家供應商,發(fā)展到HBM3E版本,依然如此,只是從2024年第二季度開始,另外兩家內存大廠才開始加入英偉達HBM供應鏈。因此,SK海力士是行業(yè)霸主,市場份額超過80%。
2022年,SK海力士專為英偉達的H100設計了HBM3,其性能令人驚訝,且HBM在經濟上是可行的,并一舉確立了行業(yè)地位。在這種情況下,三星和美光準備花費數十億美元來擴大芯片生產能力。最近,三星推出了其12層堆疊的HBM3E,旨在將其與SK海力士和美光的8層堆疊產品區(qū)分開來。
在不久前舉行的年度股東大會上,SK海力士非常享受它的勝利成果,這家韓國內存制造商表示,HBM必須為客戶“定制和專業(yè)化”,這是在強調其與英偉達的深厚關系。
同期,三星也宣布了其HBM產量的增長計劃,一位高管表示,該公司計劃今年將芯片產量增加兩倍。英偉達首席執(zhí)行官黃仁勛(Jensen Huang)在Blackwell產品發(fā)布會上表示,正在對三星的HBM3E進行資格認證,黃仁勛這是在側面敲打SK海力士,以避免供應商一家獨大,出現(xiàn)客大欺店的情況。
相對于三星和SK海力士,美光(Micron)晚一年才推出HBM產品,但憑借其在HBM3E版本產品上的“彎道超車”表現(xiàn),特別是其3D堆疊技術,使HBM3E在有限的空間中,滿足高帶寬與大容量的需求,有望在HBM競賽中扳回一城。美光的HBM3E瞄向了英偉達新推出的DGX GH200。
?01、三巨頭排隊驗證HBM3E
作為AI服務器芯片行業(yè)霸主,英偉達具有很強的話語權,這使得內存行業(yè)廠商不得不順應該公司的標準和驗證要求。而為了實現(xiàn)供應鏈多元化,英偉達將更多HBM內存廠商納入了其供應鏈,作為新進入者,三星的HBM3E正在等待驗證通過,而美光和SK海力士已經在2023下半年向英偉達提供了8層垂直堆疊的HBM3E(24GB)樣品,并在2024年初通過了英偉達的驗證,并獲得了訂單。
現(xiàn)在,只有三星一家在焦急地等待,因為這三大原廠的HBM3E驗證結果,將決定英偉達2024全年HBM供應商的采購權重分配。
2023年,英偉達的高端AI芯片(采用HBM內存)是A100/A800和H100/H800,2024年,其產品組合更多了,除了上述型號,還將再推出使用6個HBM3E的H200和8個HBM3E的B100,并整合該公司自研的Arm架構CPU,推出GH200和GB200。
除了英偉達,另外兩大處理器廠商也在加緊拓展AI服務器市場,這將進一步推動HBM內存市場的繁榮。
2024年,AMD出貨的主力產品是MI300系列,采用HBM3內存,下一代MI350將采用HBM3E,預計2024下半年開始進行HBM驗證,大批量上市將在2025年第一季度。英特爾方面,2022下半年推出的Gaudi 2采用了6個HBM2E,2024年,預計其新型號Gaudi 3仍將采用HBM2E,但用量升至8個。
未來,除了英偉達,AMD和英特爾會使用越來越多的HBM產品,這會給三大內存原廠提供更多商機。
?02、驗證的卡點
據分析師和行業(yè)觀察人士稱,在HBM產品驗證方面,三星落后的原因之一是其堅持使用被稱為熱壓非導電膜(TC-NCF)的技術,這導致了一些生產問題,而SK海力士則一直采用大規(guī)?;亓髂V频撞刻畛洌∕R-MUF)技術,可以克服NCF的弱點。
TC-NCF技術已被芯片制造商廣泛使用,用于將多層芯片堆疊在緊湊的高帶寬存儲芯片組中,因為使用熱壓縮薄膜有助于最大限度地減少堆疊芯片之間的空間。但是,隨著層數不斷增加,制造變得越來越復雜,因此,經常存在與粘合劑材料相關的問題,芯片制造商一直在尋找替代方案來解決這些問題。MR-MUF是一種環(huán)氧樹脂模塑化合物,被認為在避免晶圓翹曲方面更有優(yōu)勢。
SK海力士率先成功轉向MR-MUF技術,并成為第一家向英偉達供應HBM3內存的供應商。
在SK海力士成功將MR-MUF應用于HBM2E生產后,受到了芯片行業(yè)的關注。SK海力士使用的這種化合物是與Namics合作生產的。
MR-MUF用于HBM封裝,它對HBM芯片的外部結構有顯著影響。SK海力士在創(chuàng)建12層HBM3時,將一個產品中堆疊的DRAM數量從8個(16GB)增加到12個,從而將容量提高了50%。通過這種方式,SK海力士實現(xiàn)了24GB的容量。為了在保持芯片厚度的同時增加容量(堆疊層數),必須將DRAM芯片逐個向上堆疊,這會導致較薄的芯片產生彎曲,MR-MUF封裝對于防止這種情況并保持芯片的厚度是有益的。
不久前,有消息人士說,三星發(fā)布了旨在處理MR-MUF技術的芯片制造設備的采購訂單。消息人士稱,三星與包括日本長瀨在內的材料制造商進行談判,以采購MUF材料,使用MUF的高端芯片的大規(guī)模生產最早可能要到2025年才能準備就緒,因為三星需要進行更多的測試。
據悉,三星對其HBM內存進行了大規(guī)模的MR-MUF工藝測試,結果顯示與現(xiàn)有的TC-NCF相比,吞吐量有所提高,但物理特性有所下降。
三星芯片制造部門的一位高級主管在2023年下令對MUF技術進行測試,得出的結論是MUF不適用于HBM產品,最為合適的對象是3D堆疊RDIMM。一般情況下,3D堆疊RDIMM采用硅通孔(TSV)技術制造,主要用于服務器。硅通孔技術是在Wafer或者Die上穿出數千個小孔,實現(xiàn)硅片堆疊的垂直互連通道,而MUF則是上下連接,縮小相互之間間隙的材料,有助于緊密凝固和結合各種垂直堆疊的半導體材料。
據悉,三星計劃與SDI合作開發(fā)自己的MUF化合物材料,而且已經從日本訂購了MUF所需要的相關設備,看起來要推進到下一階段,以實現(xiàn)更先進的封裝工藝,并提高生產效率。
消息人士表示,三星計劃在其最新的HBM芯片上同時使用NCF和MUF材料。
但三星并未承認,該公司表示,其內部開發(fā)的NCF技術是HBM產品的“最佳解決方案”,將用于其新的HBM3E芯片?!拔覀冋诎从媱濋_展HBM3E產品業(yè)務”,三星表示。
如果三星使用MUF為真的話,則突顯了該公司在AI芯片競賽中面臨的越來越大的壓力。據悉,另一家內存大廠美光也打算使用MUF材料。
?03、發(fā)展HBM4,依然要過臺積電這一關
HBM3E的下一個版本,就是HBM4,三星正在加快研發(fā)腳步,爭取縮小與SK海力士的差距。
不久前,三星公布了HBM路線圖,預計2026年的HBM出貨量是2023年的13.8倍,該公司表示,到2028年,HBM內存的年產量將進一步上升至2023年的23.1倍。
在代號為“Snowbolt”的第六代HBM芯片HBM4方面,三星計劃將緩沖芯片應用于堆疊內存的底層以提高效率。除此之外,還沒有更多關于三星HBM4的技術細節(jié)流出。
SK海力士方面,在擴充HBM3E生產能力的同時,該公司還與臺積電簽署了諒解備忘錄(MOU),雙方就下一代HBM產品生產和加強整合HBM與邏輯層的先進封裝技術密切合作,以開發(fā)出新一代的HBM4產品。
雖然距離HBM4投產還有兩年的時間,SK海力士已經在加速推進第七代HBM產品(HBM4E)的開發(fā)工作了,據etnews報道,該公司的HBM先進技術團隊負責人Kim Kwi-wook在近日舉行的“IMW 2024”活動上分享了下一代HBM的發(fā)展方向,表示當前HBM技術已達到新的水平,同時,代際更迭周期也在縮短,從HBM3E開始,由以往的兩年變成了一年。
面對競爭,SK海力士的HBM項目正在提速,預計首批12層堆疊的HBM4最快會在2025下半年到來,到2026年還會有16層堆疊的產品,會向更加定制化的方向發(fā)展,而HBM4E最早會在2026年投產。這是SK海力士首次提及HBM4E,確認了新標準的存在,據悉,其帶寬將是上一代產品的1.4倍。
5月中旬,在2024年歐洲技術研討會上,臺積電表示,將使用其12FFC+(12nm級)和N5(5nm級)制程工藝制造HBM4芯片。
臺積電設計與技術平臺高級總監(jiān)表示:“我們正在與主要的HBM內存合作伙伴(美光、三星、SK海力士)合作,開發(fā)HBM4全棧集成的先進制程,N5制程可以使HBM4以更低的功耗提供更多的邏輯功能。”
N5制程允許將更多的邏輯功能封裝到HBM4中,并實現(xiàn)非常精細的互連間距,這對于邏輯芯片上的直接鍵合至關重要,可以提高AI和HPC處理器的內存性能。
相對于N5,臺積電的12FFC+工藝(源自該公司的16nm FinFET 技術)更加經濟,制造的基礎芯片能構建12層和16層的HBM4內存堆棧,分別提供48GB和64GB的容量。
臺積電還在優(yōu)化封裝技術,特別是CoWoS-L和CoWoS-R,以支持HBM4集成。這些先進的封裝技術有助于組裝多達12層的HBM4內存堆棧。新的轉接板能確保2000多個互連的高效路由,同時保持信號完整性。據臺積電介紹,到目前為止,實驗性HBM4內存在14mA時的數據傳輸速率已達到6 GT/s。
臺積電還在與Cadence、Synopsys和Ansys等EDA公司合作,對HBM4通道信號完整性、IR/EM和熱精度進行認證。
?04、三星尋求與臺積電合作
由于英偉達在AI服務器芯片市場處于霸主地位,而該公司的高性能GPU都是由臺積電代工生產的,因此,在對HBM內存大廠的產品進行驗證時,臺積電扮演著重要的角色。此時,雖然是晶圓代工領域的競爭對手,但要在HBM內存市場拓展出更多空間,在進行產品驗證時,三星必須面對臺積電。
今年4月,三星電子共同執(zhí)行長慶桂顯低調訪臺,傳拜訪了臺積電,消息人士透露,慶桂顯此行的任務中,最主要是推廣三星最新的HBM內存。
之前,臺積電與SK海力士聯(lián)手,組成名為“One Team”的戰(zhàn)略同盟,共同開發(fā)下一代HBM4內存,目標是通過匯集臺積電與SK海力士在新一代AI半導體封裝上的技術優(yōu)勢,鞏固雙方在AI市場的地位。
慶桂顯此行,對于三星HBM3E產品盡快通過英偉達驗證有積極作用,同時,三星也希望臺積電能夠將其HBM內存推薦給客戶,以實現(xiàn)將三星產品整合進更多AI芯片和服務器系統(tǒng)。