來源:TECHPOWERUP
2024 IEEE IEDM 會議目前正在美國加州舊金山舉行。據(jù)分析師 Ian Cutress 在其社交平臺上發(fā)布的動態(tài),英偉達在本次學(xué)術(shù)會議上分享了有關(guān)未來 AI 加速器設(shè)計的愿景。
英偉達認為未來整個 AI 加速器復(fù)合體將位于大面積先進封裝基板之上,采用垂直供電,集成硅光子 I/O 器件,GPU 采用多模塊設(shè)計,3D 垂直堆疊 DRAM 內(nèi)存,并在模塊內(nèi)直接整合冷板。
在英偉達給出的模型中,每個 AI 加速器復(fù)合體包含 4 個 GPU 模塊,每個 GPU 模塊與 6 個小型 DRAM 內(nèi)存模塊垂直連接并與 3 組硅光子 I/O 器件配對。
硅光子 I/O 可實現(xiàn)超越現(xiàn)有電氣 I/O 的帶寬與能效表現(xiàn),是目前先進工藝的重要發(fā)展方向;3D 垂直堆疊的 DRAM 內(nèi)存較目前的 2.5D HBM 方案擁有更低信號傳輸距離,有益于 I/O 引腳的增加和每引腳速率的提升;垂直集成更多器件導(dǎo)致發(fā)熱提升,模塊整合冷板可提升解熱能力。
熱管理是另一個關(guān)鍵考慮因素。多層 GPU 設(shè)計帶來了復(fù)雜的冷卻挑戰(zhàn),而目前的技術(shù)無法充分解決這一問題。NVIDIA 承認,在將 DRAM 堆疊在邏輯上的概念成為現(xiàn)實之前,材料科學(xué)必須取得重大進展。該公司正在探索創(chuàng)新解決方案,包括實施芯片內(nèi)冷卻系統(tǒng),例如使用專用冷板進行模塊級冷卻。這種設(shè)計的商業(yè)化還需要一段時間,Ian Cutress 博士等分析師預(yù)測,采用這種技術(shù)的產(chǎn)品可能會在 2028-2030 年左右上市。
審核編輯 黃宇
-
加速器
+關(guān)注
關(guān)注
2文章
796瀏覽量
37838 -
AI
+關(guān)注
關(guān)注
87文章
30728瀏覽量
268886 -
英偉達
+關(guān)注
關(guān)注
22文章
3770瀏覽量
90984 -
DRAM內(nèi)存
+關(guān)注
關(guān)注
0文章
8瀏覽量
3675
發(fā)布評論請先 登錄
相關(guān)推薦
評論