色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

900GB/s,NVLink才是英偉達的互聯殺手锏

E4Life ? 來源:電子發燒友網 ? 作者:周凱揚 ? 2022-03-25 07:03 ? 次閱讀

電子發燒友網報道(文/周凱揚)英偉達在GTC22上發布了全新的GraceSuperchip,該芯片中用到了NVLink-C2C技術,而去年公開的GraceHopperSuperchip同樣用到了這一技術。根據英偉達超大規模計算部門副總裁IanBuck的說法,Chiplet和異構計算已經成了解決摩爾定律緩慢進展的兩大有效手段。而NVLink-C2C這一面向die和chip的互聯技術,成了英偉達對愈發普及的Chiplet設計的回應。

Superchip的互聯


也許在不少人看來的印象中,提到NVLink會想到下圖這個橋接多個高端顯卡或專業顯卡的RTX NVLinkBridge,其實NVLink這一技術在服務器級別的GPU中反倒更為普遍。從P100的第一代NVLink,到V100的第二代NVLink,A100的第三代NVLink,最后再到如今H100的第四代NVLink。NVLink可以說是跟著GPU架構一路推陳出新了,如今享受第四代NVLink性能的成了Hopper架構的GPU。而在英偉達的SERDES和LINK技術發展下,NVLink也從PCB、MCM走向了硅中介層和晶圓,也因此有了NVLink-C2C。

RTX NVLinkBridge/ 英偉達


GraceSuperchip顯然用的是ARM NeoverseN2這一基于Armv9架構的設計,但從芯片圖可以看出,單個GraceSuperchip芯片由兩個GraceCPU組成,才讓總核心數達到了144。而這兩個CPU組成的方式,正是NVLink-C2C這一互聯技術。我們在開頭已經提到,去年公開的GraceHopperSuperchip同樣使用了這一互聯技術,只不過當時單個GraceHopperSuperchip芯片中互聯的,是一個GraceCPU和一個HopperGPU。


NVLink-C2C為英偉達帶來的遠不止這樣一對一的互聯方案,而是一整套系統架構上的創新。在NVLink-C2C的支持下,英偉達可以選擇一個GraceCPU,兩個HopperGPU的設計,或是兩個2個GraceCPU+2個HopperGPU,甚至是2個GraceCPU+8個HopperGPU。可以看出,NVLink-C2C為Grace和Hopper在數據中心和HPC應用提供了極大的擴展性。

遠超PCIe5.0的性能

英偉達強調,NVLink-C2C具有前所未有的性能,比如處理器與加速器之間900GB/s的高帶寬數據傳輸,以及快速同步和高頻率更新下的超低延遲,以及在先進封裝英偉達芯片下,能效比可以做到PCIe5.0的25倍,面積效率更是達到90倍。

H100 SXM5 GPU / 英偉達


NVLink-C2C900GB/s的帶寬確實優秀,也與第四代NVLink的性能一致,但這并不代表只要用上NVLink就能獲得,我們從Hopper架構的GPU H100的參數上也能窺見一二。要想獲得900GB/s的帶寬性能,必須用到SXM5的大功率卡,而不是PCIe5.0的卡,雖然前者的功耗是后者的兩倍,達到了可怕的700W,但PCIe5.0的H100在總體性能和帶寬上確實差SXM5一截。

兩者在PCIe5.0上的帶寬一致,都是128GB/s,但如果用上NVLink,PCIe5.0版本的H100只能達到600GB/s的帶寬,與第三代NVLink性能一致,只有SXM5版本下的NVLink才能達到滿血的900GB/s。


另外在第四代NVLink和第三代NVSwitch技術的組合下,英偉達推出了NVLinkSwitch這一方案,該系統最多支持到256個GPU,可實現57.6TB/s的總帶寬。NVLinkSwitch也是英偉達DGX H100 SuperPOD系統的關鍵技術,英偉達甚至把自己收購的Mellanox旗下的InfiniBand節點互聯技術拿來對比。從上圖可以看出與基于A100+InfiniBand的SuperPOD系統相比,基于H100+NVLinkSwitch的SuperPOD系統在對分帶寬上是前者的9倍。

開放而不是獨占


其實NVLink的存在最初讓不少人覺得有些一家獨大的意思,畢竟最早NVLink僅僅只是用于多個英偉達GPU之間的互聯,僅僅只是為自家的產品提供更多優勢而已。而去年發布的GraceHopperSuperchip同樣用到了這一技術,但這顆芯片卻是英偉達設計的ArmCPU和GPU的互聯。

這讓人不禁擔心,如果英偉達真的成功收購了Arm,會不會利用這一優勢來全面壟斷數據中心和HPC市場。畢竟Arm自己給出的互聯方案CMN-700支持的是CCIX 2.0和CXL 2.0這兩大標準互聯協議,同時為第三方加速器提供PCIe5.0的連接。但就紙面參數給到的性能看來,NVLink這種專用方案似乎更加吃香一些。

不過Arm作為一家IP公司,目標自然是支持到多樣化的加速器,從而全面發展Arm的生態。此前Arm在接受電子發燒友網采訪時也表示,Arm期待給市場帶來更多的靈活性,支持更多像Grace這樣的系統。

NVLink-C2C示意圖 / 英偉達


好在英偉達似乎也不打算將NVLink-C2C獨占,而是宣布開放這一技術,支持集成英偉達技術的芯片半定制,通過Chiplet技術充分利用自家的GPU、DPU、NIC、CPU和SoC產品,與客戶的IP進行NVLink-C2C互聯。

盡管收購失敗,英偉達與Arm的合作并沒有就此停止,英偉達也在GTC22上宣布繼續與Arm緊密合作,以支持并在未來改進Arm的AMBA CHI協議,加上對CXL的支持,從而與更多加速器和處理器做到互聯。

與此同時,在全行業群策群力,試圖打通生態的情況下,英偉達也并不打算將NVLink-C2C作為唯一的可選方案。所以除了NVLink-C2C外,集成了英偉達芯片的定制SoC也可選用前段時日公布的UCIe通用Chiplet互聯標準,所以不必將數據中心上的CPU、DPU和GPU一整套都換成英偉達旗下的產品,給到第三方服務器芯片、DPU和加速器一個機會。不過,考慮到這兩種互聯方式只能選其一,英偉達也強調了NVLink-C2C經過優化,擁有更低的延遲、更高的帶寬和更高的能效比,該如何選擇還是看廠商自己的考量了。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    459

    文章

    52253

    瀏覽量

    437095
  • 互聯技術
    +關注

    關注

    0

    文章

    13

    瀏覽量

    8426
  • 英偉達
    +關注

    關注

    22

    文章

    3926

    瀏覽量

    93208
收藏 0人收藏

    評論

    相關推薦
    熱點推薦

    英偉臺北設辦事處!開放NVLink生態,800GB桌面超算面世

    引擎Newton等產品,并分享了英偉在AI領域的最新進展,包括宣布在中國臺灣設立辦事處等。 在演講開場,黃仁勛分享了他對AI技術的期許,
    的頭像 發表于 05-20 09:11 ?6052次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>臺北設辦事處!開放<b class='flag-5'>NVLink</b>生態,800<b class='flag-5'>GB</b>桌面超算面世

    英偉GB300 NVL72加速研發,AOS成關鍵DrMOS供應商

    近日,英偉在高性能計算領域的研發步伐再次提速,其最新一代產品GB300 NVL72正加速推進。據天風證券分析師郭明錤于2月7日發布的博文透露,英偉
    的頭像 發表于 02-10 17:10 ?630次閱讀

    郭明錤:英偉將降低CoWoS-S封裝需求

    近日,天風證券知名分析師郭明錤在其個人博文中,針對英偉最新調整的Blackwell架構藍圖,提出了自己的見解。 郭明錤指出,根據英偉的最新動向,該公司在未來一年內,將顯著降低對Co
    的頭像 發表于 01-16 15:03 ?465次閱讀

    英偉大幅削減臺積電和聯電CoWoS訂單

    的原因主要有三個:一是Hopper平臺芯片已經停產,導致相關需求銳減;二是最新推出的GB200A芯片市場需求有限,未能達到預期的銷售目標;三是GB300A芯片的市場需求也相對緩慢,進一步影響了英偉
    的頭像 發表于 01-16 14:39 ?497次閱讀

    英偉推出GB200 NVL4芯片!液冷UQD快接頭崛起

    英偉GB200 NVL4高功耗芯片亮相,超算散熱革新加速。UQD快速接頭作為液冷關鍵部件,于變局中登場,迎來機遇曙光。 在 2024 年美國超級計算大會(SC24)這場備受全球關注的科技盛會
    的頭像 發表于 01-10 16:58 ?927次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>推出<b class='flag-5'>GB</b>200 NVL4芯片!液冷UQD快接頭崛起

    英偉GB300 AI服務器訂單配置初定

    近日,據業界消息透露,英偉已初步敲定了其下一代GB300 AI服務器產品線的訂單配置。預計英偉將在明年3月的GTC大會上正式揭曉這一全新
    的頭像 發表于 12-25 10:52 ?865次閱讀

    英偉GB300訂單配置初步敲定

    近日,據報道,英偉公司已經初步確定了其下一代GB300 AI服務器產品線的訂單配置。預計英偉將在明年的3月GTC大會上正式揭曉這一全新產
    的頭像 發表于 12-24 10:09 ?862次閱讀

    英偉推出GB200 NVL4平臺:整合了兩個GB200芯片

    11月19日消息,人工智能(AI)芯片大廠英偉(NVIDIA)正式推出了兩個全新的AI解決方案硬件平臺,一個是BlackwellGB200NVL4,一個是HopperH200NVL。據介紹,英偉
    的頭像 發表于 11-21 01:06 ?729次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>推出<b class='flag-5'>GB</b>200 NVL4平臺:整合了兩個<b class='flag-5'>GB</b>200芯片

    英偉超越蘋果成為市值最高 英偉取代英特爾加入道指

    在AI浪潮下英偉被各路資本競相追逐,2024年英偉公司的股價累計上漲高達180%。在11月4日,英偉
    的頭像 發表于 11-05 15:22 ?733次閱讀

    微軟Azure首獲英偉GB200 AI服務器

    微軟Azure在社交平臺上宣布了一項重要進展,公司已經成功獲得了搭載英偉最新GB200超級芯片的AI服務器。這一舉措使微軟Azure成為全球云服務供應商中首個采用英偉
    的頭像 發表于 10-10 17:01 ?942次閱讀

    英偉Blackwell可支持10萬億參數模型AI訓練,實時大語言模型推理

    、NVLink交換機、Spectrum以太網交換機和Quantum InfiniBand交換機。 ? 英偉稱,Blackwell擁有6項革命性技術,可支持多達10萬億參數的模型進行AI訓練
    的頭像 發表于 09-04 09:10 ?3611次閱讀

    英偉Blackwell架構揭秘:下一個AI計算里程碑?# 英偉# 英偉Blackwell

    英偉行業資訊
    jf_02331860
    發布于 :2024年08月26日 10:58:09

    英偉TITAN AI顯卡曝光,性能狂超RTX 409063%!# 英偉# 顯卡

    顯卡英偉
    jf_02331860
    發布于 :2024年07月24日 17:18:28

    鴻海再獲AI領域大單,獨家供貨英偉GB200 NVLink交換器

    在人工智能(AI)領域的激烈競爭中,鴻海集團再次傳來捷報。繼成功獲得英偉(NVIDIA)GB200 AI服務器代工訂單的大份額后,鴻海又獨家攬獲了GB200關鍵元件——被譽為“提升算
    的頭像 發表于 06-19 15:04 ?1325次閱讀
    主站蜘蛛池模板: 真人美女精美小穴 | 99久久久国产精品免费蜜臀 | 伊人电院网 | 看电影来5566一区.二区 | 97在线观看免费视频 | 色男人综合 | 成人精品视频网站 | 2021年国产精品久久 | 武侠古典久久亚洲精品 | 国产精品系列在线一区 | 一级做a爰片久久毛片免费 一级做a爰片久久毛片潮喷动漫 | 亚洲国产成人一区二区在线 | 女人操男人 | 在线观看日本免费 | 在线电台收听 | 竹菊影视一区二区三区 | 国产精品人妻无码免费A片导航 | 国产精品一国产精品免费 | 野花韩国高清完整版在线 | 成人精品视频在线观看播放 | 中文字幕不卡在线高清 | 色欲AV精品一区二区入口 | 亚洲日本一区二区三区在线不卡 | 嘴巴舔着她的私处插 | 玄幻全黄h全肉后宫 | 菠萝蜜国际一区麻豆 | 歪歪爽蜜臀AV久久精品人人槡 | 国产伦精品一区二区三区精品 | 欧美91精品久久久久网免费 | YELLOW高清视频免费观看 | 全球真实小U女视频合集 | 亚洲色大成网站www久久九九 | 动漫女主被扒开双腿羞辱 | 色戒床震视频片段 | 99RE8国产这里只有精品 | 九九免费精品视频 | 久久久97丨国产人妻熟女 | 国产真实夫妇交换视频 | 色欲精品久久人妻AV中文字幕 | 男人边吃奶边挵进去呻吟漫画 | 刺激一区仑乱 |

    電子發燒友

    中國電子工程師最喜歡的網站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術信息
    • 參加活動獲取豐厚的禮品