電子發燒友網報道（文/周凱揚）隨著AI芯片逐漸成為半導體市場的香餑餑，與之相關的附屬產物也在不斷升值，被一并炒熱。就拿高帶寬內存HBM來說，無論是英偉達的GPU芯片，還是初創公司打造的AI芯片，又或是大型CSP自研的服務器芯片，都開始引入HBM。

成為新時代另一主流的HBM

過去HBM主要用于AMD或英偉達的高端GPU產品中，這與成本息息相關，比如額外的硅中介層、更大的封裝等，增加的系統成本使得HBM只會出現在一些頂級消費級產品中，甚至兩者最終都在消費級產品上放棄了HBM，改用于數據中心這樣的企業級場景。

可隨著人工智能/機器學習的需求驅動這類產品用量增長，內存墻的瓶頸開始顯現。我們不再缺超高性能的CPU，缺的反而是超高性能的GPU/AI加速器，以及更高帶寬的內存，應對大量低延時的數據移動。

所以HBM被認為是AI/ML時代下的首選內存，為某些算法提供了訓練所需的最大帶寬，比如最近英偉達公布的第二代Grace Hopper Superchip，就分成了不同GPU內存配置的版本，率先推出的是搭載96GB HBM3的版本，明年第二季度將推出搭載144GB HBM3e的版本。

HBM的市場供應已經發生變動

要說HBM的供應商，主要是SK海力士、三星和美光。TrendForce通過當下各大供應商的生產計劃數據分析，內存廠商正在提高其產能，比如擴大TSV產線等。預計到2024年，HBM供應將增加105%。其中SK海力士因為收獲了來自英偉達的大量訂單，所以尚且占據頭號交椅的位置。而在三星的奮起直追下，已經拉近了與SK海力士的市占比距離。

三星作為存儲廠商和晶圓代工廠，既提供了HBM方案也提供了對應的多HBM封裝方案，這種一站式的方案也收獲了更多的訂單。根據韓媒的報道，三星與可能會與英偉達在年末達成服務與供應協議，為英偉達的H100以之后搭載HBM3的芯片提供HBM產能，

至于美光雖然也有HBM產品，但主要優勢還是在傳統內存上。可隨著生成式AI一炮走紅之后，美光也開始決心在HBM產品上奮起直追。比如上個月底，美光就基于其先進的1β工藝節點，發布了業界首個8-high 24GB HBM3第二代產品，帶寬可達1.2TB/s以上，并宣布已經開始送樣。

美光也在通稿中專門提到了該HBM產品對于GPT-4等生成式AI應用起到的助力，比如為AI推理提供更高的能效比，以及為運營者提供更優的TCO解決方案。此外，美光已經開始準備12-high的36GB版本，并計劃于2024年第一季度送樣。

至于HBM的價格問題，鑒于目前主流芯片用的還是HBM2和HBM2e，且出貨量仍在增加，所以短期內不會有太大的波動。不過，TrendForce預計隨著HBM3的推出，以及H100等基于HBM3設計的AI芯片逐漸面世，老一代HBM內存的價格應該會有所下跌，讓位給ASP價格更高但性價比依然有所提升的HBM3。

小結

盡管HBM以及后續迭代的版本解決了當下AI計算的內存墻問題，但內存廠商們考慮到傳統內存最近的庫存情況，明顯對于滿足客戶需求、擴大市場份額以及避免產能過剩有了新的權衡，在產能擴張的決策上也會更加謹慎。