據報道,硅谷晶圓芯片創企 Cerebras 近日公布了其 WSE-3 芯片型號,聲稱在保持相同能耗的基礎上,性能較前作 WSE-2 提升逾一倍。主要技術規格如下:
首先,WSE-3采用臺積電最新的5nm工藝制作(目前領先業界)。其次,該芯片擁有超過4萬億個晶體管以及90萬個AI核心,配合44GB片上SRAM高速緩存及三種可選片外存儲方案(分別是1.5TB、12TB與1.2PB)。此外,WSE-3還具備125 PFLOPS的AI運算能力。
Cerebras指出,新款CS-3系統基于WSE-3芯片設計,最高支持1.2PB的內存容量,適于訓練比GPT-4及Gemini更大的未來模型。借助獨特的邏輯內存空間技術,能將24000T模型參數集中儲存,大幅減輕了開發者負擔。
尤為值得關注的是,CS-3強大的卓越的訓練性能使其成為滿足大規模AI需求的最佳選擇,甚至可以在單日內完成70B模型的精煉。借助最大規模的2048套CS-3系統集群,僅僅一天便能夠完成長毛羊 70B 神經網絡(Netrep Tempo)模型的深度學習。同時,CS-3系統在用戶友好性設計方面也表現出色,與GPU相比,大模型訓練中的編碼量降低高達97%,更多人可以輕松掌握超大規模AI處理技能。
值得一提的是,阿聯酋G42財團已經表態將創建含64套 CS-3系統在內的Condor Galaxy 3超級計算機,預計綜合AI運算能力可達8 exaFLOPs。
-
芯片
+關注
關注
455文章
50714瀏覽量
423147 -
臺積電
+關注
關注
44文章
5632瀏覽量
166412 -
sram
+關注
關注
6文章
767瀏覽量
114675 -
晶體管
+關注
關注
77文章
9682瀏覽量
138080
發布評論請先 登錄
相關推薦
評論