色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

全調度以太網(GSE),中國智算網絡新標準

發燒科技 ? 來源:jf_63404383 ? 作者:jf_63404383 ? 2024-08-13 15:20 ? 次閱讀

伴隨著智算技術的發展,越來越多的研究表明在 AI 訓練達到一定規模下能力才會涌現,在AI大模型的擴展定律和涌現能力的驅動下,AI大模型的參數規模越來越大。國內外業界已出現多個萬億參數模型,十萬億參數模型在不遠的將來也有望問世。公開資料表明,GPT-4 的參數體量比 GPT-3 增長了 10 倍,達到 1.8 萬億參數。國內的盤古、悟道大模型,其參數規模同樣超過了萬億。

wKgZoma7CVaAIVC3AAEeRKdJUl464.jpeg

注:數據截至23年3月,資料來源:北京智源人工智能研究院,中金公司研究院

美國當地時間7月22日,特斯拉CEO埃隆·馬斯克在旗下社交平臺X上表示,xAI團隊、X團隊、英偉達及其他支持公司已經于當地時間凌晨4時20分開始在“孟菲斯超級集群(Memphis Supercluster)”上進行訓練?!懊戏扑钩壖骸庇?0萬個液冷H100 GPU組成,在單個RDMA結構上運行,是“世界上最強大的人工智能訓練集群”,該集群將被用于訓練xAI旗下第三代大語言模型Grok-3。大規模AI計算從萬卡進入到十萬卡時代。

大規模智算集群需要高性能的網絡連接,以保證各智算節點間的通信效率、數據吞吐和整個智算集群的算力性能。這對智算網絡提出了新的挑戰。

在基礎訓練模型中,一方面多任務混合部署,傳統以太網源端發流直接采用網絡“Push”流量模式,不考慮網絡及接收端的接受能力,導致網絡擁塞,使得 GPU 處于等待狀態,造成梯度和參數同步過程中算力資源浪費較大,傳統的 RoCE 網絡有效吞吐僅為 50%;另一方面,智算集群網絡流量呈現出數據流數目少、單流流量大的特點,在傳統網絡均衡算法下容易引發HASH 沖突,造成鏈路丟包,導致訓練異常中斷,極大影響訓練效率。時代呼喚 “零丟包”、“高吞吐”、“低時延” 為核心特征的無損智算網絡設備,來解決超大規模 AI 計算通信效率低的問題。

wKgaoma7CVeAfaW-AAJEewYiYXo978.png

當前全球已商用的智算網絡技術,主要有2大流派:

流派1:IB(InfiniBand)網絡,是目前市場占有率最高的智算網絡解決方案,IB 技術較為封閉,市場基本被英偉達壟斷,不符合全球開放生態的產業共識。

流派2:RoCE(RDMA over Converged Ethernet)網絡,RoCE廣泛應用于需要高帶寬和低延遲的網絡,在傳統的通算領域有很高的占有率,但是RoCE在智算網絡中存在流量HASH極化的問題,需要輔助以各種均衡調參進行智算網絡的適配。

為了更好的提升智算網絡性能,更好的服務于大規模 AI 計算,出現了更多的新型技術流派:

新技術流派1:UEC(Ultra Ethernet Consortium)網絡,2023 年 7 月Linux 基金會與全球頭部科技企業聯合成立 UEC 以太網創新聯盟,其創始成員包括AMD、Arista、博通、思科、HPE、Intel、Meta、微軟、Oracle和Eviden,致力于從物理層、鏈路層、傳輸層、軟件層改進以太網技術的革新,來滿足 AI 計算網絡的需求。

新技術流派2:GSE(Global Scheduling Ethernet)網絡,中國智算中心的建設熱潮始于 2020 年,目前已有 40 多個城市在建設或在建智算中心。智算中心建設步伐加快,但國內的網絡技術發展卻滯后于 AI 大模型的演進。 AI 網絡技術上的競爭已經成為中美技術博弈的新戰場。在這樣嚴峻的形勢下,2023 年 5 月,中國移動聯合產業界發布了全調度以太網(GSE)白皮書,同年8 月全調度以太網推進計劃正式開啟,標志著具有中國自主技術的 GSE 流派正式誕生

wKgZoma7CVeAG4PmAAJANAjSJF4499.png

GSE 是一個開放的生態組織,2023 年 9 月,中國移動發布推GSE 交換機原型系統樣機。2024 年 1 月在移動實驗室完成了GSE 交換機多廠商設備的互聯互通測試。

wKgZoma7CViAO2LYAAE5Ur1imNI014.png

GSE 網絡,專為大規模 AI 訓練集群打造:

? 按需調度,性能無損

GSE 網絡基于 PKTC 容器技術,實現了高精度的網絡負載均衡,從根本上改善了傳統 AI 算力網絡鏈路的帶寬利用率;采用基于 DQSQ 的信令申請調度技術,數據流以“Pull”的方式進行轉發,突破了傳統以太網的性能瓶頸,網絡性能提升至 95%以上。

wKgZoma7CViAcWKbAAHjxpsX8XI640.png

在多業務部署場景下,相較于傳統 RoCE 網絡性能大幅下降,GSE 交換機能保持與單業務場景持平的網絡轉發性能,極大提升網絡效率。

?場景靈活,快速部署

GSE 純網側方案即可滿足智算無損需求,可搭配國產 GPU 集成網卡,降低端側網卡要求。GSE技術原生解決了適配不同大模型訓練的網絡調參問題,避免了傳統RoCE達數天甚至數周的網絡參數調優,在算力昂貴、AI大模型競爭激烈的市場中,為客戶帶來靈活的算力網絡建設方案,縮短了訓練調優周期,幫助客戶快速搶占市場先機。

wKgaoma7CVmANzieAAF6ulTPiO8163.png

? 全局解耦,開放生態

GSE 技術體系支持標準以太網標準,新增標準協議頭,完成基于以太報文的轉發,實現端到端的多廠家設備互聯互通,構建了多廠家充分參與的開放生態,全面激活國內 AI 產業鏈,促進智算產業創新發展。

wKgZoma7CVmAfoW0AAElji_N_IU253.png

GSE標準協議頭

【總結】

銳捷網絡致力于與 GSE 生態一起打造中國的AIGC智算網絡新標準。GSE 網絡設備基于標準以太網在轉發架構方面進行技術創新,突破傳統以太網的性能瓶頸,拓展智算網絡的應用場景,充分滿足國產化智算集群網絡的需求,為客戶帶來了三大核心價值:提高智算效率,增強運維體驗,開放生態解耦。

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 以太網
    +關注

    關注

    40

    文章

    5432

    瀏覽量

    171884
  • 網絡
    +關注

    關注

    14

    文章

    7571

    瀏覽量

    88899
  • AI
    AI
    +關注

    關注

    87

    文章

    31000

    瀏覽量

    269333
  • 大模型
    +關注

    關注

    2

    文章

    2476

    瀏覽量

    2814
收藏 人收藏

    評論

    相關推薦

    全球首顆!中國移動聯合產業伙伴發布調度以太網GSE)DPU芯片

    采用高速交換網絡實現上萬顆GPU力互聯,互聯網絡技術成為提升集群有效力的關鍵,也是全球產業科技創新焦點。中國移動把握技術升級換代契機,提
    的頭像 發表于 11-22 01:09 ?221次閱讀
    全球首顆!<b class='flag-5'>中國</b>移動聯合產業伙伴發布<b class='flag-5'>全</b><b class='flag-5'>調度</b><b class='flag-5'>以太網</b>(<b class='flag-5'>GSE</b>)DPU芯片

    以太網與光纖網絡的優劣比較

    隨著信息技術的飛速發展,網絡技術已經成為現代社會不可或缺的一部分。以太網和光纖網絡作為兩種主流的網絡技術,它們在不同的應用場景中展現出各自的優勢和局限性。
    的頭像 發表于 11-08 09:19 ?618次閱讀

    以太網速率對網絡性能的影響

    速率的歷史發展 10Mbps以太網 :最早的以太網標準,適用于小型網絡。 100Mbps快速以太網 :提高了數據傳輸速率,適用于更大的
    的頭像 發表于 11-08 09:11 ?383次閱讀

    以太網協議的種類和特點

    以太網是一種局域(Local Area Network, LAN)技術,它定義了一組用于在局域中傳輸數據的規則和標準以太網協議的種類和
    的頭像 發表于 11-08 09:10 ?1254次閱讀

    以太網端口的類型和特性

    以太網端口,即以太網接口,是網絡中用于連接設備并進行數據交換的端口。它基于IEEE 802.3標準,并使用以太網協議進行數據傳輸。
    的頭像 發表于 08-07 15:27 ?1506次閱讀

    車載以太網與傳統以太網的區別

    車載以太網與傳統以太網在多個方面存在顯著的差異,這些差異主要體現在傳輸速率、實時性、可靠性、物理層標準、應用場景以及技術發展等方面。
    的頭像 發表于 07-25 11:12 ?1896次閱讀

    以太網要怎么連接

    以太網連接是現代計算機網絡通信中最為基礎和重要的環節之一。它利用以太網電纜和網卡等硬件設備,將計算機或其他設備連接到網絡交換機或路由器上,從而實現與其他設備或互聯網的通信。以下將詳細介
    的頭像 發表于 07-09 10:28 ?1107次閱讀

    解讀工業以太網標準:Profinet與EtherNet/IP

    隨著工業自動化技術的飛速發展,工業以太網標準作為連接各種自動化設備、控制系統和信息系統的重要橋梁,其重要性日益凸顯。在眾多工業以太網標準中,Profinet和EtherNet/IP憑借
    的頭像 發表于 06-28 16:34 ?2050次閱讀

    工業以太網和普通以太網區別在哪

    的應用環境和需求不同。普通以太網主要應用于辦公和家庭網絡環境,而工業以太網則是為滿足工業自動化和控制系統的需求而設計的。 1.1 環境適應性 工業以太網在設計時需要考慮惡劣的工業環境,
    的頭像 發表于 06-11 10:30 ?2784次閱讀

    什么是以太網交換機中的網絡延遲

    網絡延遲一詞表示網絡上數據通信的延遲。以太網交換機中的網絡延遲或以太網交換機延遲表示以太網數據包
    的頭像 發表于 05-28 10:13 ?522次閱讀

    中心出現帶寬缺口,1.6T以太網力大磚飛

    ,為數據中心提供了通用高速的網絡連接。 據IDC預測,到2025年全球數據中心和云端的流量將突破至175ZB。正因如此,我們開始打造更為復雜的多機架系統,以及復雜的網絡架構。與此同時,隨著新標準的開發和發布,每一代
    的頭像 發表于 04-22 16:22 ?1094次閱讀

    工業以太網的基本原理及優勢

    的應用前景。 一、工業以太網的基本原理 工業以太網基于標準以太網技術,通過物理層、數據鏈路層和網絡層的協議規范,實現設備間的數據傳輸和通信
    的頭像 發表于 03-25 14:40 ?718次閱讀

    工業以太網的基本原理及優勢

    主要的工業以太網標準以太網/IP、PROFINET、EtherCAT、Modbus/TCP等,這些標準實現了互操作性,應用于不同的工業控制領域。
    的頭像 發表于 03-06 16:31 ?1271次閱讀
    工業<b class='flag-5'>以太網</b>的基本原理及優勢

    和共享式以太網相比,交換式以太網有什么不同的特點?

    和共享式以太網相比,交換式以太網有什么不同的特點? 交換式以太網是一種通過交換機連接多臺計算機的網絡技術,相對于共享式以太網,它具有許多不同
    的頭像 發表于 02-21 11:25 ?4119次閱讀

    工業以太網的特點 工業以太網的關鍵技術包含哪些?

    工業以太網(Industrial Ethernet)是一種用于工業自動化領域的網絡通信技術,它結合了以太網的高速、低成本和廣泛應用的優勢,滿足了工業環境對可靠性、實時性和安全性的要求。本文將詳細介紹
    的頭像 發表于 01-22 15:41 ?1950次閱讀
    主站蜘蛛池模板: 亚洲欧洲自拍偷拍| 88蜜桃人妻无码精品系列| AV亚洲精品少妇毛片无码| 91九色网址| 欧美精品九九99久久在免费线| jiizzyou欧美喷液| 无人区日本电影在线观看| 蝴蝶中文综合娱乐网2| 天天狠狠弄夜夜狠狠躁·太爽了 | 久久精选视频| a在线视频免费观看| 午夜福利理论片高清在线| 二级片免费看| 欧美一区二区影院| 99re久久热在线播放8| 肉动漫无码无删减在线观看| 国产在线亚洲精品观| 亚洲视频在线免费观看| 红桃传媒少妇人妻网站无码抽插| 自拍区偷拍亚洲视频| 天天狠狠色综合图片区| 噜噜噜狠狠夜夜躁精品| 最近中文字幕MV免费高清视频8 | 日韩亚洲国产中文字幕欧美| 成人手机在线观看| 亚洲国产综合久久精品| 欧美eee114| 嘟嘟嘟WWW在线观看视频高清| 亚洲免费一| 久久久免费观成人影院| 超碰免费视频部落格| 亚洲中文字幕国产综合| 色聚网久久综合| 另类重口bdsm日本tv| 国产人妻人伦精品1国产| 亚洲精品久久久午夜麻豆 | 九九热免费在线观看| 纯肉巨黄H爆粗口男男分卷阅读| 深夜释放自己在线观看| 国产在线一区二区三区四区| jealousvue成熟40岁|