色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

星河AI網絡,大模型紀元的運力答案

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2023-09-27 09:28 ? 次閱讀

隨著AI預訓練大模型的價值不斷顯現,且模型規模愈發龐大。產學各界已經形成了這樣一個共識:AI時代,算力就是生產力。

這一認知雖然正確,卻并不全面。數字化系統有存、算、網三大支柱,AI技術也是如此。如果拋開存儲和網絡談算力,那么大模型只能獨木難支。尤其是與大模型適配的網絡基礎設施,一直以來都沒有得到有效的重視。

面對動輒“萬卡集訓”“萬里部署”“萬億參數”的AI大模型,網絡運力是整個智能化體系中不容忽視的一環。其面臨的挑戰非常突出,也正在等待可以破局的答案。

wKgaomUS6umAKUdfAAM6hKYbZ9g601.jpg

(華為數據通信產品線總裁 王雷)

9月20日,華為全聯接大會2023期間舉辦了“星河AI網絡,加速行業智能化”為主題的數通峰會。各界代表共同探討了AI網絡技術的變革與發展趨勢。會上,華為數據通信產品線總裁王雷正式發布星河AI網絡解決方案。他表示,大模型讓AI更聰明,但訓練一個大模型的成本非常高,同時還要考慮AI人才的成本。因此,在行業智能化階段,集中建設大算力集群,面向社會提供智算云服務,才能真正讓人工智能深入千行萬業。華為發布新一代星河AI網絡解決方案,面向智能時代,打造超高吞吐、長穩可靠、彈性高并發的新型網絡基礎設施,助力AI普惠,加速行業智能化。

借此機會,我們一起了解大模型崛起,給智算數據中心帶來的網絡挑戰,以及華為星河AI網絡為什么是這些問題的最優解。

如果說,一個模型、一條數據、一個計算單元,都是AI時代的一道星光。那么只有把它們高效穩定地聯接起來,才能組成智能世界的燦爛星河。

大模型爆發,隱藏的網絡激流

我們知道,AI模型分為訓練和推理部署兩個階段。伴隨著預訓練大模型的興起,這兩個階段也分別發生了巨大的AI網絡挑戰。

首先是在大模型的訓練階段。伴隨著模型規模與數據參數愈發龐大,大模型訓練開始需要千卡甚至萬卡規模的計算集群來完成。這也意味著大模型訓練必然發生在具備AI算力的數據中心當中。

在目前階段,智算數據中心的成本是非常高昂的。根據行業數據,每建設100P算力的集群,成本就要達到4億人民幣。以某國際知名大模型為例,其訓練過程中每天的算力花費就要達到70萬美元。

如果數據中心網絡的聯接能力不暢,造成大量算力資源折損在網絡傳輸過程中,那么給數據中心與AI模型帶來的損失是難以估量的。相反,如果同等算力規模下,集群訓練效率更高,那么數據中心將獲得巨大商機。而負載率等網絡因素,直接決定了AI模型的訓練效率。另一方面,由于AI算力集群的規模不斷擴大,其復雜度也在相應增長,于是其故障發生概率也在提升。打造長穩可靠的集群網絡,是數據中心提升投入產出比的重要支點。

在數據中心之外,AI模型的推理部署場景中,同樣也可以看到AI網絡的價值體現。大模型的推理部署主要依靠云服務,而云服務商必須在算力資源有限的情況下,盡量服務更大的客戶,以此實現大模型的商業價值最大化。如此一來,用戶越多整個云網結構就會越復雜。如何能夠提供長期穩定的網絡服務,成為了云計算服務商新的挑戰。

除此之外,在AI推理部署的最后一公里,政企用戶面臨著網絡質量提升的需求。在真實場景下,1%的鏈路丟包會導致TCP性能下降50倍,也就是100Mbps的寬帶,實際能力不足2Mbps。因此,提升應用場景本身的網絡能力,才可以保證AI算力順暢流動,實現真正的普惠AI。

由此不難看出,在AI大模型的誕生、傳輸、應用全流程中,每個環節都面臨著網絡升級的挑戰與需求。大模型時代的運力難題,亟待破局解題。

從星光到星河,智能時代的網絡破局思路

大模型崛起帶來的網絡難題是一個多環節、全流程的挑戰。因此,對應的破局思路也必須是一個系統性工程。

華為提出,面向智算云服務的新型網絡基礎設施,需要支持 “訓練高效能”“算力不停歇”“普惠AI服務”。這三項能力,對應了AI大模型從訓練到推理部署的全場景。不僅著眼于單一需求滿足,單一技術的升級,而是全面推進AI網絡迭代,正是華為數據通信帶給行業獨特的破局思路。

具體而言,AI時代的網絡基礎設施需要包含如下能力:

首先,在訓練場景網絡需要最大化發揮出AI計算集群的價值。通過打造具備超大規模聯接能力的網絡,實現AI大模型的訓練高效能。

其次,為了保障AI任務的穩定可持續,需要打造長穩可靠的網絡能力,保障月級訓練不中斷,同時要有秒級的穩定定界、定位和回復,盡可能降低訓練中斷時常。這就是算力不停歇的能力建設。

再次,AI推理部署過程中,要求網絡具有彈性高并發的特質,可以智能編排海量用戶流,提供最佳的AI落地體驗,同時可以對抗網絡劣化沖擊,保障不同區域間AI算力順暢流動,這也就實現了“普惠AI服務”的能力建設。

秉承這樣的破局思路,華為最終帶來了星河AI網絡解決方案。它把散落的AI星光,基于強大運力聯成一片星河。

星河AI網絡,給大模型紀元一個運力答案

華為全聯接大會2023的期間,華為分享了對以大算力、大存力、大運力加速AI大模型打造的發展愿景。新一代華為星河AI網絡解決方案,就可以說是面向智能時代,華為為大模型帶來的運力答案。

對于智能數據中心來說,華為星河AI網絡是以網強算的最優解。

wKgZomUS6uqAYin_AATx46GR500258.jpg

其所具備的超高吞吐網絡特質,可以面向智算中心的AI集群提供提升網絡負載率,強化訓練效率的重要價值。具體來說,星河AI網絡智算交換機具有業界最高密400GE和800GE端口能力,僅2層交換網絡就可以實現1萬8000卡的無收斂集群組網,從而支持超萬億參數的大模型訓練。組網層次一旦減少,就意味著數據中心能夠節省了大量的光模塊成本,同時提高對網絡風險的可預測性,獲得更加穩定的大模型訓練能力。

星河AI網絡可以支持網絡級負載均衡NSLB,能夠將負載率從50%提升到98%,相當于實現AI集群超頻運行,繼而將訓練效率提升20%,達成高效能訓練的預期。

wKgaomUS6uqACNBAAAVownNLQGk939.jpg

對于云服務廠商來說,星河AI網絡可以提供穩定可靠的算力保障。

其能夠在DCI算間互聯場景,提供多路徑智能調度等技術,自動識別、主動適應業務高峰流量的沖擊,可以從百萬數據流中識別大小流,合理分配到10萬路徑,從而實現網絡0擁塞,彈性保障高并發的智算云服務。

對于政企用戶來說,星河AI網絡可以應對網絡劣化問題,保障普惠化的AI算力。

其能夠在DCA入算場景支持彈性抗劣化能力,采用Fillp技術優化TCP協議,可以在1%丟包率的情況下將帶寬負載率從10%提升至60%,從而保障從都市圈到偏遠地區的算力順暢流動,加速AI服務的普惠應用。

如此一來,大模型從訓練到部署各個環節的網絡需求都被打通。從智算中心到千行萬業,都有了以網強算的發展支點。

一個屬于智能化的時代,一個由大模型開啟的科技新紀元剛剛開始。星河AI網絡,給智能時代寫下了一個關于運力的答案。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30807

    瀏覽量

    268954
  • 運力計算
    +關注

    關注

    0

    文章

    3

    瀏覽量

    1681
  • ai技術
    +關注

    關注

    1

    文章

    1271

    瀏覽量

    24300
  • 算力
    +關注

    關注

    1

    文章

    969

    瀏覽量

    14799
  • 大模型
    +關注

    關注

    2

    文章

    2437

    瀏覽量

    2668
收藏 人收藏

    評論

    相關推薦

    模力無限,星河共創:啟明云端與您共赴文心大模型生態大會

    力無限星河共創”為主題,匯聚了行業AI專家、知名高校學者、全球頂尖開發者,共同探討AI行業的發展、前沿技術與應用、人才培養,以及AI生態的新實踐。啟明云端作為文心
    的頭像 發表于 12-24 18:01 ?108次閱讀
    模力無限,<b class='flag-5'>星河</b>共創:啟明云端與您共赴文心大<b class='flag-5'>模型</b>生態大會

    華為星河AI網絡共贏行業智能化

    近日,華為年度旗艦活動——HUAWEI CONNECT 2024·PARIS開幕。大會期間,星河AI網絡論壇成功舉辦,200+名全球行業領袖、技術專家和合作伙伴參加,共同探討智能時代下數據通信領域
    的頭像 發表于 11-18 11:29 ?348次閱讀

    華為推出面向Net5.5G的星河AI網絡解決方案

    今日,全球超寬帶高峰論壇(UBBF 2024)期間,華為數據通信產品線總裁王雷發表了題為“星河AI網絡:全面邁入Net5.5G,加速運營商新增長”的主題演講,分享了華為攜手全球領先運營商通過
    的頭像 發表于 11-04 16:05 ?417次閱讀

    星河AI電力網絡,電力智能化的飛躍起點

    網絡為基,星河為路,我們將抵達怎樣的智電未來?
    的頭像 發表于 08-28 09:43 ?2598次閱讀
    <b class='flag-5'>星河</b><b class='flag-5'>AI</b>電力<b class='flag-5'>網絡</b>,電力智能化的飛躍起點

    行業智能化的“火車頭效應”,由星河AI金融網絡啟動

    星河AI金融網絡“通車時刻”,聽見行業智能化的“火車頭”轟鳴
    的頭像 發表于 08-23 09:15 ?2467次閱讀
    行業智能化的“火車頭效應”,由<b class='flag-5'>星河</b><b class='flag-5'>AI</b>金融<b class='flag-5'>網絡</b>啟動

    面向AI之海,行業智能化需要一座“運力燈塔”

    星河AI網絡,照亮智能時代的航線
    的頭像 發表于 08-16 18:15 ?3033次閱讀
    面向<b class='flag-5'>AI</b>之海,行業智能化需要一座“<b class='flag-5'>運力</b>燈塔”

    星河智聯發布FLOW.源大模型座艙系統,引領智能出行新紀元

    在智能網聯汽車技術日新月異的今天,星河智聯正式推出了其智能座艙操作系統的最新代際產品——FLOW.源大模型座艙系統。這一創新成果不僅標志著星河智聯在智能座艙領域的技術突破,也預示著汽車人機交互體驗將邁入一個全新的時代。
    的頭像 發表于 07-19 17:07 ?989次閱讀

    一圖看懂星河AI園區網絡,以體驗為中心,企業數智升級首選

    一圖看懂星河AI園區網絡,以體驗為中心,企業數智升級首選
    的頭像 發表于 05-19 11:10 ?483次閱讀
    一圖看懂<b class='flag-5'>星河</b><b class='flag-5'>AI</b>園區<b class='flag-5'>網絡</b>,以體驗為中心,企業數智升級首選

    華為面向中東中亞地區發布星河AI園區網絡,以體驗為中心,企業數智升級首選

    華為數據通信創新峰會2024中東中亞站期間,在“高品質萬兆園區網絡,以體驗為中心,企業數智升級首選”專題分論壇上,華為發布星河AI園區網絡解決方案,旨在為企業提供卓越的
    的頭像 發表于 05-15 09:17 ?511次閱讀

    HNS 2024:星河AI數據中心網絡,賦AI時代新動能

    華為數據通信創新峰會2024在巴庫隆重舉辦,在“星河AI數據中心網絡,賦AI時代新動能”主題論壇中,華為面向中東中亞地區發布星河
    的頭像 發表于 05-15 09:15 ?653次閱讀
    HNS 2024:<b class='flag-5'>星河</b><b class='flag-5'>AI</b>數據中心<b class='flag-5'>網絡</b>,賦<b class='flag-5'>AI</b>時代新動能

    華為聯合中國信通院發布《華為星河AI數據中心網絡測試報告》

    2024 開放數據中心委員會(以下簡稱ODCC)春季全會在江西婺源順利召開,全會由ODCC副主席李潔博士主持。全會期間,華為聯合中國信通院云大所數據中心團隊發布《華為星河AI數據中心網絡測試報告》(以下簡稱“測試報告”)。
    的頭像 發表于 04-02 09:25 ?1463次閱讀

    一圖看懂星河AI數據中心網絡,全面釋放AI時代算力

    華為中國合作伙伴大會 | 一圖看懂星河AI數據中心網絡,以網強算,全面釋放AI時代算力
    的頭像 發表于 03-22 10:28 ?753次閱讀
    一圖看懂<b class='flag-5'>星河</b><b class='flag-5'>AI</b>數據中心<b class='flag-5'>網絡</b>,全面釋放<b class='flag-5'>AI</b>時代算力

    學習鴻蒙背后的價值?星河版開放如何學習?

    鴻蒙原生內核。 實現了AI框架、大模型、設計系統、編程框架、編程語言、編譯器等全棧自研,有核心技術、全棧能力、底座和生態,是真正的操作系統,而非安卓套皮。關鍵是有了鴻蒙星河版本也就意味著國內市場有了
    發表于 02-22 20:55

    AI模型怎么解決芯片過剩?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:42:05

    AI模型可以設計電路嗎?

    AI模型
    電子發燒友網官方
    發布于 :2024年01月02日 15:09:29
    主站蜘蛛池模板: 午夜aaaa| 久久草香蕉频线观| japanesematur乱儿| 34g污奶绵uk甩奶| 欲奴第一季在线观看全集| 亚洲无人区码二码三码区别图| 亚洲国产精品无码中文字幕| 亚洲 综合 自拍 精品 在线| 小777论坛| 亚洲国产精品无码AV久久久| 亚洲成A人片在线观看中文不卡| 亚洲AV久久无码精品国产网站| 校园纯肉H教室第一次| 亚洲AV久久婷婷蜜臀无码不卡| 亚洲精品一区二区在线看片| 亚洲刺激视频| 夜夜骑夜夜欢| 3dbdsm变态videos高清| 91免费网站在线看入口黄| 99久久综合精品免费| 操中国老太太| 国产精品高清免费网站| 国内高清在线观看视频| 久久大香线蕉综合爱| 蜜芽无码亚洲资源网站| 秋霞av伦理片在线观看| 日日噜噜夜夜躁躁狠狠| 羞羞在线观看| 在线观看黄色小说| bl高h文合集| 国产成人免费不卡在线观看| 国产又黄又粗又爽又色的视频软件 | 色中色入口2015| 亚洲 欧美 国产 综合五月天| 亚洲欧洲日产国码中学| 69xx欧美| 国产成人永久免费视频| 禁漫H天堂免费A漫| 欧美日韩另类在线专区| 天天影视网网色色欲| 伊人精品视频直播|