深度學(xué)習(xí)工作負(fù)載中GPU與LPU的主要差異
當(dāng)前,生成式AI模型的參數(shù)規(guī)模已躍升至數(shù)十億乃至數(shù)萬億之巨,遠(yuǎn)遠(yuǎn)超出了傳統(tǒng)CPU的處理范疇。在此背景....
為什么MPLS仍是以太網(wǎng)傳輸技術(shù)的首選
什么是運(yùn)營商以太網(wǎng)傳輸技術(shù)? 運(yùn)營商以太網(wǎng)是指在局域網(wǎng) (LAN) 之外使用以太網(wǎng)技術(shù),特別是用于長....
智算中心網(wǎng)絡(luò)交換機(jī)需要什么樣的緩存架構(gòu)
?在交換機(jī)上,緩存就是數(shù)據(jù)交換的緩沖區(qū),被交換機(jī)用來協(xié)調(diào)不同網(wǎng)絡(luò)設(shè)備之間的速度匹配問題,突發(fā)數(shù)據(jù)可以....
未來智算中心:從單數(shù)據(jù)中心到多數(shù)據(jù)中心AI訓(xùn)練集群的演變趨勢
? 去年以來,以ChatGPT為代表的大模型迅速紅遍全球,展現(xiàn)出變革經(jīng)濟(jì)社會的巨大潛能。全球主流科技....
天翼云彈性負(fù)載均衡介紹
負(fù)載均衡(Load Balancing)是一種優(yōu)化資源分配的技術(shù),主要用于在網(wǎng)絡(luò)環(huán)境中分散工作負(fù)載,....
異構(gòu)計(jì)算下緩存一致性的重要性
在眾多回復(fù)中,李博杰同學(xué)的回答被認(rèn)為質(zhì)量最高。他首先將緩存一致性分為兩個主要場景:一是主機(jī)內(nèi)CPU與....
揭秘智算中心的互聯(lián)技術(shù)決策
英偉達(dá)設(shè)計(jì)的DGX H100 NVL256超級計(jì)算集群,原本計(jì)劃集成256個NVIDIA H100 ....
什么是網(wǎng)絡(luò)大模型技術(shù)
當(dāng)前,生成式人工智能被認(rèn)為是21世紀(jì)最重要的技術(shù)突破之一,其為人類社會帶來了工作范式的轉(zhuǎn)變,極大地提....
如何利用CXL協(xié)議實(shí)現(xiàn)高效能的計(jì)算架構(gòu)
近日我有幸閱讀了英特爾公司互聯(lián)系統(tǒng)領(lǐng)域的權(quán)威人物Debendra Das Sharma撰寫的一篇開創(chuàng)....
英特爾、AMD等聯(lián)手推出UALink,希望用它取代Nvidia NVLink接口
周四,英特爾、AMD、博通、思科、谷歌、HPE、Meta和微軟宣布正在建立一個新的行業(yè)組織——Ult....
探討SONiC-DASH網(wǎng)絡(luò)可編程技術(shù)
DASH 在傳統(tǒng) SONiC 管理的底層基礎(chǔ)設(shè)施之上建立了overlay服務(wù)。這種overlay服務(wù)....
一文詳解基于以太網(wǎng)的GPU Scale-UP網(wǎng)絡(luò)
最近Intel Gaudi-3的發(fā)布,基于RoCE的Scale-UP互聯(lián),再加上Jim Keller....
傳統(tǒng)的TCP/IP堆棧是否足以有效支持HPC網(wǎng)絡(luò)通信?
在快速增長的人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 領(lǐng)域,數(shù)據(jù)中心對高性能計(jì)算 (HPC) 系統(tǒng)的....
AWS HPC為什么不用Infiniband?有何原因?
HPC的低延遲需求來自于很多應(yīng)用都會通過網(wǎng)格刨分來進(jìn)行并行運(yùn)算,然后網(wǎng)格間有復(fù)雜而頻繁的通信數(shù)據(jù)交互....
星脈網(wǎng)絡(luò)深度解析:GOR全鏈路流量規(guī)劃與擁塞控制機(jī)制
AI網(wǎng)絡(luò)中的數(shù)據(jù)流就好像拉力賽道上飛馳的賽車,在賽道上高速前進(jìn)。但是由于賽道的寬度有限,如果一條賽道....
請問高端網(wǎng)絡(luò)芯片如何處理數(shù)據(jù)包呢?
隨著網(wǎng)絡(luò)芯片帶寬的持續(xù)提升,其內(nèi)部數(shù)據(jù)包處理單元的工作負(fù)載也隨之增加。然而,如果處理單元無法與網(wǎng)絡(luò)接....
盤點(diǎn)一下史上最全大語言模型訓(xùn)練中的網(wǎng)絡(luò)技術(shù)
人工智能的基礎(chǔ)設(shè)施在大語言模型訓(xùn)練和推理過程中發(fā)揮了關(guān)鍵的作用。隨著大語言模型規(guī)模不斷增大,其對計(jì)算....
Cerebras推出WSE-3 AI芯片,比NVIDIA H100大56倍
Cerebras 是一家位于美國加利福尼亞州的初創(chuàng)公司,2019 年進(jìn)入硬件市場,其首款超大人工智能....
2023年全球以太網(wǎng)交換機(jī)市場最新排名出爐!
據(jù)IDC報告顯示,2023 年全球以太網(wǎng)交換機(jī)收入同比增長 20.1%,達(dá)到 442 億美元(約31....
華為與成都高投集團(tuán)等擬共同收購鼎橋通信100%股權(quán)
1月19日上午,國家市場監(jiān)督管理總局公示了“華為技術(shù)有限公司與成都高新投資集團(tuán)有限公司(以下簡稱“成....