HBM4將是未來市場上最先進的存儲器。

HBM技術是一種基于3D堆疊工藝的高性能DRAM，它可以為高性能計算、人工智能、數據中心等領域提供高帶寬、高容量、低延遲和低功耗的存儲解決方案。本文將介紹HBM技術的原理、優勢、應用和發展趨勢。

01.?HBM技術原理： 3D堆疊實現高密度存儲

HBM技術是一種將多層DRAM芯片通過硅通孔（TSV）和微型凸點（uBump）連接在一起，形成一個存儲堆棧（stack），然后將多個堆棧與邏輯芯片（如GPU或CPU）通過硅中介層（interposer）封裝在一起的技術。HBM技術的原理示意圖如下：

HBM技術的核心優勢是通過3D堆疊實現了高密度存儲，從而大幅提升了每個存儲堆棧的容量和位寬。例如，第一代HBM（HBM1）可以將四層8Gb（吉比特）的DRAM芯片堆疊在一起，形成一個32Gb（吉比特）的存儲堆棧，每個堆棧有1024位的接口，最多可以支持四個堆棧，從而實現128Gb（吉比特）的總容量和4096位的總位寬。

相比之下，傳統的DDR4內存只有64位的接口，每個芯片最大容量為16Gb（吉比特），最多只能支持兩個芯片，從而實現32Gb（吉比特）的總容量和128位的總位寬。

02.?HBM技術優勢： 高帶寬、低延遲、低功耗

HBM技術通過3D堆疊實現了高密度存儲，從而帶來了三大優勢：高帶寬、低延遲和低功耗。

高帶寬：HBM技術通過增加存儲堆棧的數量和位寬，以及提升數據傳輸速率，實現了超高的帶寬。例如，第三代HBM（HBM3）可以支持八個存儲堆棧，每個堆棧有2048位的接口，數據傳輸速率可達9.6Gbps（吉比特每秒），從而實現1.2TB/s（太字節每秒）的總帶寬。相比之下，傳統的DDR4內存最多只能支持64GB/s（吉字節每秒）的總帶寬。

低延遲：HBM技術通過縮短存儲器和邏輯芯片之間的距離，以及采用并行訪問模式，實現了低延遲。例如，第三代HBM（HBM3）可以將存儲器和邏輯芯片之間的距離縮短到約100微米（微米），并且可以同時訪問16個獨立通道，從而降低了訪問延遲。相比之下，傳統的DDR4內存需要通過長達數厘米（厘米）的電路板連接存儲器和邏輯芯片，并且只能順序訪問一個通道，從而增加了訪問延遲。

低功耗：HBM技術通過降低工作電壓，以及減少信號線的數量和長度，實現了低功耗。例如，第三代HBM（HBM3）可以將工作電壓降低到0.7伏（伏特），并且只需要約5000根信號線，從而降低了功耗4。相比之下，傳統的DDR4內存需要1.2伏（伏特）的工作電壓，并且需要約20000根信號線，從而增加了功耗。

綜上所述，HBM技術通過3D堆疊實現了高密度存儲，從而帶來了高帶寬、低延遲和低功耗的優勢，這些優勢使得HBM技術非常適合高性能計算、人工智能、數據中心等領域的應用。

03.?HBM技術應用： 助力高性能計算、人工智能、數據中心

HBM技術由于具備高帶寬、低延遲和低功耗的優勢，因此被廣泛應用于高性能計算、人工智能、數據中心等領域，為這些領域提供了強大的存儲支持。

高性能計算：高性能計算是指使用大規模并行處理的超級計算機或集群系統來解決復雜的科學和工程問題。高性能計算對存儲器的要求非常高，需要大容量、高帶寬和低延遲的存儲器來支持大量的數據處理和傳輸。HBM技術正好滿足了這些要求，因此被廣泛應用于高性能計算領域。例如，英偉達（NVIDIA）的 H100 / H800 和 AMD 的 MI300 系列 AI 加速卡均采用 HBM3 技術，為高性能計算提供了強大的存儲支持。

人工智能：人工智能是指使用計算機系統模擬人類智能的科學和技術。人工智能對存儲器的要求也非常高，需要高帶寬和低延遲的存儲器來支持大規模的神經網絡訓練和推理。HBM技術也正好滿足了這些要求，因此被廣泛應用于人工智能領域。例如，谷歌（Google）的 TPU v4 和 TPU v5 系列 AI 芯片均采用 HBM2E 技術，為人工智能提供了強大的存儲支持。

數據中心：數據中心是指集中存儲、處理和傳輸大量數據的設施。數據中心對存儲器的要求也非常高，需要高容量、高帶寬和低功耗的存儲器來支持海量的數據服務。HBM技術也正好滿足了這些要求，因此被廣泛應用于數據中心領域。例如，英特爾（Intel）的 Sapphire Rapids 和 Granite Rapids 系列服務器處理器均采用 HBM2E 技術，為數據中心提供了強大的存儲支持。

綜上所述，HBM技術由于具備高帶寬、低延遲和低功耗的優勢，因此被廣泛應用于高性能計算、人工智能、數據中心等領域，為這些領域提供了強大的存儲支持。

04.?HBM技術發展趨勢： 存儲巨頭競相推出下一代HBM

HBM技術由于具備高帶寬、低延遲和低功耗的優勢，因此受到了存儲巨頭的高度重視，目前已經有多家存儲巨頭正在計劃推出下一代HBM，以進一步提升HBM技術的性能和市場競爭力。

SK 海力士（SK Hynix）：SK 海力士是韓國最大的存儲芯片制造商，也是全球第二大的DRAM供應商。SK 海力士在2023年3月宣布，已經開始量產第三代HBM（HBM3），并且已經向英偉達（NVIDIA）和AMD等客戶提供了樣品。SK 海力士的HBM3可以支持8個存儲堆棧，每個堆棧有2048位的接口，數據傳輸速率可達9.6Gbps（吉比特每秒），從而實現1.2TB/s（太字節每秒）的總帶寬。SK 海力士表示，HBM3是目前市場上最高性能的存儲器，可以滿足高性能計算、人工智能、數據中心等領域的需求。

三星（Samsung）：三星是全球最大的存儲芯片制造商，也是全球第一大的DRAM供應商。三星在2023年4月宣布，已經開始量產第二代高性能HBM（HBM2E），并且已經向谷歌（Google）和英特爾（Intel）等客戶提供了樣品。三星的HBM2E可以支持8個存儲堆棧，每個堆棧有1024位的接口，數據傳輸速率可達4.8Gbps（吉比特每秒），從而實現614.4GB/s（吉字節每秒）的總帶寬。三星表示，HBM2E是目前市場上最高容量的存儲器，可以滿足海量數據處理和存儲的需求。

美光（Micron）：美光是全球第三大的存儲芯片制造商，也是全球第四大的DRAM供應商。美光在2023年5月宣布，已經開始研發第四代HBM（HBM4），并且計劃在2024年下半年開始量產。美光的HBM4可以支持16個存儲堆棧，每個堆棧有4096位的接口，數據傳輸速率可達12Gbps（吉比特每秒），從而實現3TB/s（太字節每秒）的總帶寬。美光表示，HBM4將是未來市場上最先進的存儲器，可以滿足超高性能計算、人工智能、數據中心等領域的需求。

綜上所述，HBM技術由于具備高帶寬、低延遲和低功耗的優勢，因此受到了存儲巨頭的高度重視，目前已經有多家存儲巨頭正在計劃推出下一代HBM，以進一步提升HBM技術的性能和市場競爭力。據集邦咨詢預測，2023年HBM需求將同比增長58%，2024年可能進一步增長約30%，未來這個市場規模將達到數十億美元。HBM技術無疑將成為高性能計算的新引擎，引領存儲技術的新變革。

編輯：黃飛

?