2023年8月8日，NVIDIA創始人兼CEO黃仁勛在計算機圖形年會SIGGRAPH上發布了HBM3e內存新一代GH200 Grace Hopper超級芯片。這款芯片被黃仁勛稱為“加速計算和生成式AI時代的處理器”，旨在用于任何大型語言模型，以降低推理成本。
與今年5月發布的GH200不同，新一代GH200芯片搭載了全球首款HBM3e內存，內存容量和帶寬都有顯著提高，專為加速計算和生成式AI時代而設計。
新版GH200芯片平臺基于72核Grace CPU，配備480GB ECC LPDDR5X內存以及GH100計算GPU。此外，它還搭配著141GB的HBM3e內存，分為六個24GB的堆棧，并采用了6，144位的內存接口。盡管實際上NVIDIA安裝了144GB的內存，但可用的內存容量為141GB。
借助全球最快的HBM3e內存，這款芯片的內存容量高達141GB，帶寬每秒可達到5TB。每個GPU的容量比NVIDIA H100 GPU多出1.7倍，帶寬比H100高1.55倍。
NVIDIA強調，新版GH200 Grace Hopper芯片使用了與原版相同的Grace CPU和GH100 GPU芯片，因此無需推出新的軟件版本或步進。原版GH200和升級版GH200將共存于市場，后者將以更高的價格銷售，因為它具備更先進的內存技術帶來的更高性能。
NVIDIA表示，新版GH200旨在處理世界上最復雜的生成式AI工作負載，包括大型語言模型、推薦系統和矢量數據庫，并將提供多種配置。預計新版GH200將于2024年第二季度投產。
編輯：黃飛
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
處理器
+關注
關注
68文章
19601瀏覽量
232286 -
NVIDIA
+關注
關注
14文章
5167瀏覽量
105107 -
gpu
+關注
關注
28文章
4858瀏覽量
130102 -
內存
+關注
關注
8文章
3089瀏覽量
74763 -
AI
+關注
關注
87文章
33056瀏覽量
273024 -
生成式AI
+關注
關注
0文章
522瀏覽量
654 -
HBM3
+關注
關注
0文章
74瀏覽量
237 -
HBM3E
+關注
關注
0文章
79瀏覽量
371
發布評論請先 登錄
相關推薦
三星與英偉達高層會晤，商討HBM3E供應
其高帶寬存儲器HBM3E產品中的初始缺陷問題，并就三星第五代HBM3E產品向英偉達供應的相關事宜進行了深入討論。 此次高層會晤引發了外界的廣泛關注。據推測，三星8層
英偉達加速認證三星AI內存芯片
近日，英偉達公司正在積極推進對三星AI內存芯片的認證工作。據英偉達CEO透露，他們正在不遺余力地加速這一進程，旨在盡快將三星的內存解決方案融
三星電子HBM3E商業化遇阻，或重新設計1a DRAM電路
近日，業界傳出三星電子HBM3E商業化進程遲緩的消息，據稱這一狀況或與HBM核心芯片DRAM有關。具體而言，1a DRAM的性能問題成為了三星電子向英偉達提供
SK海力士引領未來:全球首發12層HBM3E芯片,重塑AI存儲技術格局
今日，半導體巨頭SK海力士震撼宣布了一項業界矚目的技術里程碑，該公司已成功在全球范圍內率先實現12層HBM3E芯片的規模化生產，此舉不僅將HBM存儲器的最大容量推升至史無前例的36GB新高度，更進一步鞏固了SK海力士在
三星電子HBM3E內存獲英偉達認證，加速AI GPU市場布局
近日，知名市場研究機構TrendForce在最新發布的報告中宣布了一項重要進展：三星電子的HBM3E內存產品已成功通過英偉達驗證，并正式開啟出貨流程。具體而言，三星的HBM3E 8Hi
TrendForce:三星HBM3E內存通過英偉達驗證,8Hi版本正式出貨
9月4日最新資訊，據TrendForce集邦咨詢的最新報告透露，三星電子已成功完成其HBM3E內存產品的驗證流程，并正式啟動了HBM3E 8Hi（即24GB容量版本）的出貨，該產品主要面向英偉
三星HBM3E內存挑戰英偉達訂單,SK海力士霸主地位受撼動
進入八月，市場傳言四起，韓國存儲芯片巨頭三星電子（簡稱“三星”）的8層HBM3E內存（新一代高帶寬內存產品）已順利通過英偉達嚴格測試。然而，三星迅速澄清，表示這一報道與事實相去甚遠，強調目前質量測試
三星否認HBM3E芯片通過英偉達測試
近日，有關三星的8層HBM3E芯片已通過英偉達測試的報道引起了廣泛關注。然而，三星電子迅速對此傳聞進行了回應，明確表示該報道并不屬實。
三星HBM3e獲英偉達認證，加速DRAM產能轉型
近日，三星電子在半導體領域再傳捷報，其高頻寬內存（HBM）產品HBM3e已成功通過全球圖形處理與AI計算巨頭英偉
三星電子否認HBM3e芯片通過英偉達測試
韓國新聞源NewDaily近日發布了一則報道，聲稱三星電子的HBM3e芯片已成功通過英偉達的產品測試，預示著即將開啟大規模生產并向英偉達供貨
三星否認HBM3E通過英偉達測試傳聞
近期，有媒體報道稱三星電子已成功通過英偉達（NVIDIA）的HBM3E（高帶寬內存）質量測試，并預計很快將啟動量產流程，以滿足市場對高性能存儲解決方案的迫切需求。然而，這一消息迅速遭到了三星電子的官方否認。
英偉達巨資預訂HBM3E，力拼上半年算力市場
在全球AI芯片領域的激烈競爭中，英偉達以其卓越的技術實力和市場影響力，始終保持著領先地位。最近，這家AI芯片大廠再次展現出了其獨特的戰略眼光
傳三星HBM3E尚無法通過英偉達認證
三星電子近期正積極投入驗證工作，以確保其HBM3E產品能夠順利供應給英偉達。然而，業界傳出消息，因臺積電在采用標準上存在的某些問題，導致8層HBM3E產品目前仍需要進一步的檢驗。
三星HBM3E芯片驗證仍在進行，英偉達訂單分配備受關注
業內評論指出，三星HBM之所以出現問題，主要原因在于負責英偉達GPU制造的臺積電在驗證過程中采用了SK海力士的標準。由于SK海力士8層HBM3E的生產方式與三星有所差異，導致三星產品未
工商網監
評論