谷歌憑借新版TPU v5p成功挑戰Nvidia——這款搭載超級計算機的頂級人工智芯片,擁有更高速度、大容量內存及帶寬,顯著優于Nvidia的H100。
谷歌借其最先進的Gemini人工智能模型,全新推出人工智能訓練及推理專用的張量處理單元(TPU)最新版本,顯然有意向Nvidia霸主地位的GPU發起沖擊。
TPU v5p已在谷歌“AI超級計算機”項目中發揮重要作用,這并非專業科研型超算平臺,而是面向各類人工智能應用。與Nvidia開放GPU購買策略不同,谷歌高端TPU主要供自家產品和服務運用。
新架構版TPU每個模塊有8960顆芯片,較之上代v4的4096有所提升,且每塊架構內的總浮點運算次數(FLOPs)增加至原來的四倍,吞吐能力達到驚人的4800Gbps。新型架構在內存及帶寬方面更為出色,高達95GB的高帶寬內存(HBM)遠超TPU v4的32GB。
面對Nvidia異軍突起的H100,究竟誰更強?值得關注的是,谷歌的TPU v5p在訓練大規模語言模型上表現突出,效率提升兩倍以上,相比于倉庫版TPU v5e雖然在性價比上稍遜一籌,但仍使其成為當前最強版本。
比起Nvidia頂配的H100顯卡——被公認為最適合AI任務專業級別的顯卡之一,谷歌TPU v5p毫不畏懼。根據官方數據顯示,其訓練效能竟超越Nvidia同系列A100 GPU整整四倍!然而,實際對比還需通過嚴謹的基準測試才能最終定論。
另傳聞稱,谷歌TPU v4在訓練效能上較A100還要提升1.2~1.7倍,此數據去年四月便已得到證實。據此估計,谷歌TPU v5p相較A100性能優勢可能位于3.4~4.8倍之間,其競爭力水平相當于甚至超過Nvidia的H100,持續關注后續發展動態。
-
超級計算機
+關注
關注
2文章
461瀏覽量
41942 -
人工智能
+關注
關注
1791文章
47183瀏覽量
238245 -
TPU
+關注
關注
0文章
140瀏覽量
20720
發布評論請先 登錄
相關推薦
評論