- 以下文章轉(zhuǎn)載自【donews】-
在人工智能大模型浪潮的推動(dòng)下,AI訓(xùn)練數(shù)據(jù)集正極速擴(kuò)增。以ChatGPT為例,去年11月發(fā)布的GPT-3,使用1750億個(gè)參數(shù)構(gòu)建,今年3月發(fā)布的GPT-4使用超過1.5萬億個(gè)參數(shù)。海量的數(shù)據(jù)訓(xùn)練,這對(duì)算力提出了高需求。
而HBM(高頻寬存儲(chǔ)器)作為內(nèi)存的一種技術(shù)類型,采用創(chuàng)新的2.5D/3D架構(gòu),能夠?yàn)锳I加速器提供具有高內(nèi)存帶寬和低功耗的解決方案,同時(shí)憑借極低的延遲和緊湊的封裝,HBM已成為AI訓(xùn)練硬件的首選。
TrendForce預(yù)估,2024年全球HBM的位元供給有望增長(zhǎng)105%;HBM市場(chǎng)規(guī)模也有望于2024年達(dá)89億美元,同比增長(zhǎng)127%;預(yù)計(jì)2025年HBM市場(chǎng)規(guī)模將會(huì)突破100億美元。
近日,作為業(yè)界領(lǐng)先的芯片和IP核供應(yīng)商, Rambus Inc.(納斯達(dá)克股票代碼:RMBS)宣布Rambus HBM3內(nèi)存控制器IP現(xiàn)在可提供高達(dá)9.6 Gbps的性能,可支持HBM3標(biāo)準(zhǔn)的持續(xù)演進(jìn)。
大幅提升AI性能 提供領(lǐng)先支持
眾所周知,JEDEC(電子工程器件聯(lián)合委員會(huì))將DRAM分為標(biāo)準(zhǔn)DDR、移動(dòng)DDR以及圖形DDR三類,HBM則屬于圖形DDR中的一種。
在設(shè)計(jì)上,HBM包含了中介層,以及處理器、內(nèi)存堆棧。HBM通過使用先進(jìn)的封裝方法(如TSV硅通孔技術(shù))垂直堆疊多個(gè)DRAM,與GPU通過中介層互聯(lián)封裝在一起,打破了內(nèi)存帶寬及功耗瓶。這也讓傳輸速率成為了HBM的核心參數(shù)。
從2014年全球首款HBM產(chǎn)品問世至今,HBM技術(shù)已發(fā)展至第四代,分別為HBM、HBM2、HBM2e、HBM3,帶寬和容量分別從最初128GB/S和1GB提升至819GB/S和24GB,傳輸速度從1Gbps提高至6.4Gbps。據(jù)悉,第五代HBM3E已在路上, 由SK Hynix、美光和三星共同發(fā)布,它所支持的數(shù)據(jù)傳輸速率達(dá)到9.6Gb/s。
對(duì)于HBM而言,Rambus并不陌生,早于2016年就入局了HBM市場(chǎng)。此次發(fā)布的Rambus HBM3內(nèi)存控制器IP專為需要高內(nèi)存吞吐量、低延遲和完全可編程性應(yīng)用而設(shè)計(jì)。相比HBM3 Gen1 6.4 Gbps 的數(shù)據(jù)速率,Rambus HBM3內(nèi)存控制器的數(shù)據(jù)速率提高了50%,總內(nèi)存吞吐量超過1.2 TB/s,適用于推薦系統(tǒng)的訓(xùn)練、生成式AI以及其他要求苛刻的數(shù)據(jù)中心工作負(fù)載。
Rambus 接口IP產(chǎn)品管理和營(yíng)銷副總裁 Joe Salvador介紹稱,該控制器是一種高度可配置的模塊化解決方案,可根據(jù)每個(gè)客戶對(duì)尺寸和性能的獨(dú)特要求進(jìn)行定制。目前已與SK海力士、美光、三星完成了一整套的測(cè)試。對(duì)于選擇第三方HBM3 PHY(物理層)的客戶,Rambus還提供HBM3控制器的集成與驗(yàn)證服務(wù)。
就當(dāng)前HBM市場(chǎng)發(fā)展格局,Joe Salvador坦言道:“目前為止還沒有了解到有哪一家競(jìng)爭(zhēng)對(duì)手跟我們一樣,已經(jīng)有經(jīng)過驗(yàn)證的能夠去支持HBM3 9.6Gbps傳輸速率的內(nèi)存控制器IP。Rambus HBM3內(nèi)存控制器將以高達(dá)9.6Gb/s的性能,為HBM3提供業(yè)界領(lǐng)先的支持。”
同時(shí),Joe Salvador表示,一家企業(yè)想進(jìn)入到HBM行業(yè)會(huì)面臨相應(yīng)的一些門檻和有諸多的挑戰(zhàn),首先就是對(duì)于總體架構(gòu)設(shè)計(jì)的復(fù)雜度和了解程度不夠。Rambus正是得益于積累了多年的技術(shù)經(jīng)驗(yàn)和跟主流內(nèi)存廠商合作的經(jīng)驗(yàn),使得所設(shè)計(jì)出來的內(nèi)存控制器可以做到高性能、低功耗,而且對(duì)于客戶來說成本也相對(duì)較低,且具有很好的兼容性。
AI時(shí)代 Rambus將全面發(fā)力
當(dāng)前大模型的百花齊放,讓HBM也水漲船高。
但面對(duì)當(dāng)前AI發(fā)展趨勢(shì),Joe Salvador直言道,目前來說,我們無法預(yù)知它未來會(huì)發(fā)展到何種程度。“目前,還沒有看到AI相關(guān)的應(yīng)用領(lǐng)域,對(duì)于高性能計(jì)算、更高的帶寬和內(nèi)存容量的需求有任何下降的趨勢(shì)。所以在可以預(yù)見的將來,這都會(huì)一直推動(dòng)我們持續(xù)地創(chuàng)新,以及推動(dòng)整個(gè)行業(yè)進(jìn)一步地創(chuàng)新。”
他還表示,目前可以看到的是,AI的應(yīng)用場(chǎng)景正在從以前集中在數(shù)據(jù)中心當(dāng)中,逐漸地向邊緣計(jì)算去拓展。對(duì)于Rambus來說,這也就意味著我們業(yè)務(wù)的重心將有可能不再像以前那樣全部集中在數(shù)據(jù)中心當(dāng)中,而是也會(huì)隨著市場(chǎng)需求囊括邊緣計(jì)算的場(chǎng)景。
Rambus 大中華區(qū)總經(jīng)理蘇雷補(bǔ)充稱,AI向前發(fā)展對(duì)技術(shù)方面的需求,主要就是算力和內(nèi)存,算力方面可能不會(huì)有太多的挑戰(zhàn),目前擺在業(yè)界面前的更多是存儲(chǔ)的問題。而Rambus是存儲(chǔ)方面的專家,可以預(yù)見到伴隨著AI的新成長(zhǎng),Rambus會(huì)在這一輪的科技浪潮中發(fā)揮越來越重要的作用,助力AI的成長(zhǎng)。
審核編輯:湯梓紅
-
存儲(chǔ)器
+關(guān)注
關(guān)注
38文章
7484瀏覽量
163765 -
Rambus
+關(guān)注
關(guān)注
0文章
60瀏覽量
18803 -
人工智能
+關(guān)注
關(guān)注
1791文章
47183瀏覽量
238266
原文標(biāo)題:【媒體報(bào)道】Rambus HBM3速率達(dá)到9.6 Gbps,大幅提升AI性能
文章出處:【微信號(hào):Rambus 藍(lán)鉑世科技,微信公眾號(hào):Rambus 藍(lán)鉑世科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論