色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

PCIe在AI加速器中的作用

新思科技 ? 來(lái)源:新思科技 ? 2023-11-18 10:36 ? 次閱讀

從線(xiàn)上購(gòu)物時(shí)的“猜你喜歡”、到高等級(jí)自動(dòng)駕駛汽車(chē)上的實(shí)時(shí)交通信息接收,再到在線(xiàn)視頻游戲,所有的這些都離不開(kāi)人工智能(AI)加速器。AI加速器是一種高性能的并行計(jì)算設(shè)備,旨在高效處理神經(jīng)網(wǎng)絡(luò)等AI工作負(fù)載并提供近乎實(shí)時(shí)的處理方案,從而實(shí)現(xiàn)一系列應(yīng)用。

為了讓AI加速器有效地完成自己的工作,數(shù)據(jù)必須要以極快的速度在AI加速器(作為設(shè)備)與CPUGPU(主機(jī))之間進(jìn)行快速且低延時(shí)的移動(dòng),而實(shí)現(xiàn)這一切的關(guān)鍵就在于PCI Express(PCIe)高速接口

PCIe大約每三年更新?lián)Q代一次,帶寬也會(huì)隨之翻倍,而這正是我們數(shù)據(jù)驅(qū)動(dòng)的數(shù)字世界所需要的。作為PCIe規(guī)范的最新版本,PCIe 6.0可提供:

每個(gè)引腳64 GT/s的數(shù)據(jù)傳輸速率

一種新的低功耗狀態(tài),從而實(shí)現(xiàn)更低的功耗

經(jīng)濟(jì)高效的性能

高性能的完整性和數(shù)據(jù)加密(IDE)

向后兼容前幾代

盡管PCIe過(guò)去可能通過(guò)PC上的插槽,連接顯卡和掃描儀等外圍設(shè)備,但得益于帶寬的不斷增加,PCIe的作用現(xiàn)在已遠(yuǎn)不止于此。本文將詳細(xì)介紹PCIe如何滿(mǎn)足AI加速器的日益增長(zhǎng)的要求。

AI無(wú)處不在,PCIe也是如此

GlobalData的數(shù)據(jù)表明,AI正在芯片組領(lǐng)域中迅速普及,預(yù)計(jì)到2030年,超過(guò)40%的芯片組中都將包含AI硬件人工智能(AI)和機(jī)器學(xué)習(xí)(ML)工作負(fù)載的復(fù)雜性仍在不斷增加。事實(shí)上,AI和ML訓(xùn)練模型的規(guī)模大約每隔幾個(gè)月就會(huì)翻一番。為了確保有效性,AI系統(tǒng)必須能在不犧牲性能或增加延遲的情況下,通過(guò)AI開(kāi)發(fā)管道移動(dòng)大型數(shù)據(jù)集。不妨看一看下面這些帶寬密集型工作負(fù)載示例:

4K和8K高清視頻 — 需要更多計(jì)算能力和內(nèi)存

高分辨率和高動(dòng)態(tài)范圍 — 實(shí)現(xiàn)機(jī)器視覺(jué)和實(shí)時(shí)感知

多攝像頭陣列和4D傳感 — 實(shí)現(xiàn)深度和運(yùn)動(dòng)推理

所有這些趨勢(shì)都表明,AI加速器的關(guān)鍵在于提供強(qiáng)大的并行計(jì)算能力,讓語(yǔ)音激活和高等級(jí)自動(dòng)駕駛汽車(chē)等應(yīng)用能夠做出近乎實(shí)時(shí)的響應(yīng)。這些高性能機(jī)器既可以采用超大芯片的形式,例如用于深度學(xué)習(xí)系統(tǒng)的Cerebras晶圓級(jí)引擎(WSE);也可以是GPU、大規(guī)模多核標(biāo)量處理器或空間加速器,通過(guò)將數(shù)十到數(shù)百個(gè)芯片組合到一起,打造出具有數(shù)百petaFLOPS處理能力的大型系統(tǒng),用以處理大型神經(jīng)網(wǎng)絡(luò)。

838cee98-8534-11ee-939d-92fbcf53809c.png

PCIe發(fā)揮著高效的橋梁作用

由于能夠處理AI和ML工作負(fù)載,AI加速器可以增強(qiáng)數(shù)據(jù)中心服務(wù)器中CPU的處理能力,而PCIe則充當(dāng)兩者之間的橋梁。就其作用而言,PCIe具有以下優(yōu)勢(shì):

最大限度提高芯片到芯片接口的帶寬,無(wú)論是用于大規(guī)模計(jì)算陣列中的AI加速器,還是邊緣的AI加速器

提供擴(kuò)展容量,以便在多個(gè)主機(jī)和多臺(tái)設(shè)備之間移動(dòng)數(shù)據(jù),因?yàn)镻CIe插槽可以支持各種類(lèi)型的擴(kuò)展卡,包括AI加速器

支持通過(guò)多線(xiàn)程技術(shù)跨多個(gè)芯片并行處理工作負(fù)載

實(shí)現(xiàn)主機(jī)和設(shè)備之間的通用互操作性,使得能夠在系統(tǒng)運(yùn)行時(shí)無(wú)縫添加或移除AI加速器卡

提供低功耗PCIe 6.0 L0p模式,能夠以更少的通道支持所需的數(shù)據(jù)流量,從而可以降低功耗,幫助最大限度地減少碳足跡

提供數(shù)據(jù)保密性、完整性和重發(fā)保護(hù)功能,確保傳輸中的數(shù)據(jù)免受嗅探、篡改、刪除、插入或重發(fā)數(shù)據(jù)包攻擊

要充分利用這種安全的高速接口,經(jīng)驗(yàn)證的PCIe物理層(PHY)和具有IDE安全性的控制器IP是關(guān)鍵,而相關(guān)的專(zhuān)業(yè)知識(shí)也對(duì)幫助開(kāi)展相應(yīng)設(shè)計(jì)至關(guān)重要。功耗和信號(hào)完整性方面的考量則突顯了專(zhuān)家支持的重要作用。AI加速通常需要許多高速通道。PCIe的多個(gè)通道同時(shí)切換會(huì)產(chǎn)生大量功耗,這使得電源完整性成為一個(gè)問(wèn)題。如果在同時(shí)切換過(guò)程中出現(xiàn)IR壓降等問(wèn)題,則不利于充分發(fā)揮全部性能。信號(hào)完整性也很重要,因?yàn)橄到y(tǒng)中在AI加速器和CPU之間傳輸?shù)男盘?hào)必須完好無(wú)損。新思科技內(nèi)部擁有功耗和信號(hào)完整性方面的專(zhuān)家,他們能夠模擬多通道環(huán)境,指導(dǎo)開(kāi)發(fā)者在設(shè)計(jì)芯片時(shí)將支持PCIe的PHY放置在合適位置,從而實(shí)現(xiàn)最佳性能。

83c3942a-8534-11ee-939d-92fbcf53809c.png

新思科技是PCIe IP和PCIe協(xié)議驗(yàn)證解決方案(包括驗(yàn)證IP)的行業(yè)領(lǐng)導(dǎo)者,新思科技的PCIe專(zhuān)家也是PCI-SIG聯(lián)盟(負(fù)責(zé)編寫(xiě)PCIe總線(xiàn)規(guī)范)的主要貢獻(xiàn)者。新思科技的PCIe產(chǎn)品組合,以及各種具有向后兼容性的組件,包括:

新思科技PHY IP,通過(guò)自適應(yīng)數(shù)字信號(hào)處理(DSP算法來(lái)優(yōu)化數(shù)字均衡,以跨底板、網(wǎng)絡(luò)接口卡(NIC)及芯片到芯片通道實(shí)現(xiàn)高能效

新思科技控制器IP,具有與新思科技IDE安全I(xiàn)P模塊緊密集成的架構(gòu),其中包含多個(gè)接口,旨在盡可能降低延遲并提高吞吐量

新思科技驗(yàn)證IP,可加速測(cè)試平臺(tái)開(kāi)發(fā),并且具有內(nèi)置驗(yàn)證計(jì)劃、驗(yàn)證序列和功能覆蓋范圍

用于新思科技ZeBu硬件加速系統(tǒng)和新思科技HAPS原型系統(tǒng)的新思科技協(xié)議接口卡、在線(xiàn)和虛擬解決方案,可實(shí)現(xiàn)軟件驅(qū)動(dòng)的系統(tǒng)驗(yàn)證、性能分析、認(rèn)證和流片前合規(guī)性測(cè)試

除了端到端PCIe IP解決方案,新思科技的IP核組合還包括內(nèi)存、處理器及其他用于AI加速器的接口IP。全棧式AI驅(qū)動(dòng)型電子設(shè)計(jì)自動(dòng)化(EDA)套件Synopsys.ai現(xiàn)已搭載能夠顯著加快專(zhuān)用AI加速器設(shè)計(jì)的功能。在驗(yàn)證方面,AI SoC需要更快的流片前硬件輔助驗(yàn)證解決方案。新思科技的ZeBu Server 5和HAPS系統(tǒng)提供了超快且容量超大的硬件輔助驗(yàn)證(HAV)系統(tǒng),有助于完成各種復(fù)雜SoC設(shè)計(jì)的所有系統(tǒng)級(jí)驗(yàn)證用例。

PCIe接下來(lái)的發(fā)展方向如何?

下一代PCIe有望達(dá)到速度驚人的2.048TB。隨著越來(lái)越多的設(shè)備和系統(tǒng)融入AI,任何能夠滿(mǎn)足AI速度需求的創(chuàng)新都是利好消息。對(duì)于現(xiàn)今和未來(lái)的AI加速器來(lái)說(shuō),不斷發(fā)展的PCIe高速接口有望與之?dāng)y手共進(jìn),讓日常生活變得更加智能

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268880
  • 高速接口
    +關(guān)注

    關(guān)注

    1

    文章

    44

    瀏覽量

    14771
  • PCIe
    +關(guān)注

    關(guān)注

    15

    文章

    1234

    瀏覽量

    82576
  • 新思科技
    +關(guān)注

    關(guān)注

    5

    文章

    796

    瀏覽量

    50334

原文標(biāo)題:AI低延遲應(yīng)用,怎么缺少PCIe高速接口?

文章出處:【微信號(hào):Synopsys_CN,微信公眾號(hào):新思科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    英偉達(dá)AI加速器新藍(lán)圖:集成硅光子I/O,3D垂直堆疊 DRAM 內(nèi)存

    冷板。 英偉達(dá)給出的模型,每個(gè) AI 加速器復(fù)合體包含 4 個(gè) GPU 模塊,每個(gè) GPU 模塊與 6 個(gè)小型 DRAM 內(nèi)存
    的頭像 發(fā)表于 12-13 11:37 ?153次閱讀
    英偉達(dá)<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>新藍(lán)圖:集成硅光子I/O,3D垂直堆疊 DRAM 內(nèi)存

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創(chuàng)意加速器

    加速器
    龍智DevSecOps
    發(fā)布于 :2024年11月26日 13:42:47

    磁調(diào)制式電流傳感粒子加速器的應(yīng)用

    粒子加速器是一種利用電磁場(chǎng)加速帶電粒子(如質(zhì)子、電子、離子等)至極高速度的裝置。其工作原理基于洛倫茲力定律,即當(dāng)帶電粒子電磁場(chǎng)運(yùn)動(dòng)時(shí),會(huì)受到垂直于其速度方向的力
    的頭像 發(fā)表于 11-14 11:43 ?177次閱讀

    SiFive發(fā)布MX系列高性能AI加速器IP

    AI技術(shù)日新月異的今天,RISC-V IP設(shè)計(jì)領(lǐng)域的領(lǐng)軍企業(yè)SiFive再次引領(lǐng)行業(yè)潮流,正式推出了其革命性的SiFive Intelligence XM系列高性能AI加速器IP。這
    的頭像 發(fā)表于 09-24 14:46 ?344次閱讀

    下一代高功能新一代AI加速器(DRP-AI3):10x高級(jí)AI系統(tǒng)高級(jí)AI更快的嵌入處理

    電子發(fā)燒友網(wǎng)站提供《下一代高功能新一代AI加速器(DRP-AI3):10x高級(jí)AI系統(tǒng)高級(jí)AI
    發(fā)表于 08-15 11:06 ?0次下載
    下一代高功能新一代<b class='flag-5'>AI</b><b class='flag-5'>加速器</b>(DRP-<b class='flag-5'>AI</b>3):10x<b class='flag-5'>在</b>高級(jí)<b class='flag-5'>AI</b>系統(tǒng)高級(jí)<b class='flag-5'>AI</b><b class='flag-5'>中</b>更快的嵌入處理

    西門(mén)子推出Catapult AI NN軟件,賦能神經(jīng)網(wǎng)絡(luò)加速器設(shè)計(jì)

    西門(mén)子數(shù)字化工業(yè)軟件近日發(fā)布了Catapult AI NN軟件,這款軟件神經(jīng)網(wǎng)絡(luò)加速器設(shè)計(jì)領(lǐng)域邁出了重要一步。Catapult AI NN軟件專(zhuān)注于
    的頭像 發(fā)表于 06-19 11:27 ?849次閱讀

    PCIe載板設(shè)計(jì)原理圖:636-基于FMC的Kintex XCKU060高性能PCIe AD采集板卡 AI加速計(jì)卡

    PCIe載板, AD采集板卡, AI加速計(jì)算, 3U VPX
    的頭像 發(fā)表于 06-17 16:29 ?611次閱讀
    <b class='flag-5'>PCIe</b>載板設(shè)計(jì)原理圖:636-基于FMC的Kintex XCKU060高性能<b class='flag-5'>PCIe</b> AD采集板卡 <b class='flag-5'>AI</b><b class='flag-5'>加速</b>計(jì)卡

    美國(guó)限制向中東AI加速器出口,審查國(guó)家安全

    AI加速器能協(xié)助數(shù)據(jù)中心處理大量人工智能聊天機(jī)器人和其他工具的開(kāi)發(fā)信息。如今,它們已然成為構(gòu)建AI基礎(chǔ)設(shè)施的企業(yè)和政府的必需品。
    的頭像 發(fā)表于 05-31 09:20 ?573次閱讀

    Arm發(fā)布新一代Ethos-U AI加速器 Arm旨在瞄準(zhǔn)國(guó)產(chǎn)CPU市場(chǎng)

    Arm發(fā)布的新一代Ethos-U AI加速器確實(shí)在業(yè)界引起了廣泛關(guān)注。
    的頭像 發(fā)表于 04-18 15:59 ?742次閱讀

    Arm推動(dòng)生成式AI落地邊緣!全新Ethos-U85 AI加速器支持Transformer 架構(gòu),性能提升四倍

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)嵌入式領(lǐng)域,邊緣與端側(cè)AI推理需求不斷增長(zhǎng),Arm既有Helium 技術(shù)使 CPU 能夠執(zhí)行更多計(jì)算密集型的 AI 推理算法,也有Ethos 系列 AI
    的頭像 發(fā)表于 04-16 09:10 ?4587次閱讀
    Arm推動(dòng)生成式<b class='flag-5'>AI</b>落地邊緣!全新Ethos-U85 <b class='flag-5'>AI</b><b class='flag-5'>加速器</b>支持Transformer 架構(gòu),性能提升四倍

    Hitek Systems開(kāi)發(fā)基于PCIe的高性能加速器以滿(mǎn)足行業(yè)需求

    Hitek Systems 使用開(kāi)放式 FPGA 堆棧 (OFS) 和 Agilex 7 FPGA,以開(kāi)發(fā)基于最新 PCIe 的高性能加速器 (HiPrAcc),旨在滿(mǎn)足網(wǎng)絡(luò)、計(jì)算和高容量存儲(chǔ)應(yīng)用的需求。
    的頭像 發(fā)表于 03-22 14:02 ?623次閱讀
    Hitek Systems開(kāi)發(fā)基于<b class='flag-5'>PCIe</b>的高性能<b class='flag-5'>加速器</b>以滿(mǎn)足行業(yè)需求

    家居智能化,推動(dòng)AI加速器的發(fā)展

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃山明)AI加速芯片,也稱(chēng)為人工智能加速器AI Accelerator),是一種專(zhuān)為執(zhí)行機(jī)器學(xué)習(xí)和深度學(xué)習(xí)任務(wù)而設(shè)計(jì)的ASIC或定制化處理
    的頭像 發(fā)表于 02-23 00:18 ?4579次閱讀

    回旋加速器原理 回旋加速器的影響因素

    回旋加速器(Cyclotron)是一種用于加速帶電粒子的可再生粒子加速器。它的工作原理基于帶電粒子恒定強(qiáng)磁場(chǎng)的運(yùn)動(dòng)。本文將詳細(xì)介紹回旋
    的頭像 發(fā)表于 01-30 10:02 ?3919次閱讀

    回旋加速器粒子的最大動(dòng)能與什么有關(guān)

    影響。回旋加速器通常由多個(gè)環(huán)形磁體和電極組成,這些器件產(chǎn)生的磁場(chǎng)和電場(chǎng)可以加速粒子。回旋加速器的尺寸越大,通常其能夠加速粒子的能力也越強(qiáng)。由于粒子是帶電的,它們受到磁場(chǎng)和電場(chǎng)力的
    的頭像 發(fā)表于 01-18 10:42 ?3145次閱讀

    英偉達(dá)、AMD2024年繼續(xù)全力沖刺人工智能加速器市場(chǎng)

    英偉達(dá)、AMD2024年繼續(xù)全力沖刺人工智能(AI加速器市場(chǎng)。
    的頭像 發(fā)表于 01-08 17:27 ?1208次閱讀
    英偉達(dá)、AMD<b class='flag-5'>在</b>2024年繼續(xù)全力沖刺人工智能<b class='flag-5'>加速器</b>市場(chǎng)
    主站蜘蛛池模板: 免费观看桶机十分钟| yellow免费观看在线| 久久婷婷五月综合色丁香花| 亚洲无遮挡| 九九影院午夜理论片无码| 亚洲乱码国产乱码精品精98| 好男人社区| 一二三四电影完整版免费观看| 精品午夜中文字幕熟女人妻在线| 一本之道高清在线观看一区| 久久se精品一区二区国产| 在线广播收听| 免费国产黄线在线播放| 99热成人精品国产免男男| 琪琪see色原网站在线观看 | 国产成人在线免费| 乌克兰xxxxx| 国产亚洲精品久久孕妇呦呦你懂| 亚洲欧洲自拍偷拍| 久久青草免费91线频观看站街| 69精品国产人妻蜜桃国产毛片| 欧美成人无码视频午夜福利| 超碰 无码 中文字幕| 婷婷久久综合九色综合伊人色| 果冻传媒在线播放| 在线亚洲色拍偷拍在线视频| 嫩草影院一区| 福利社影院| 亚洲国产精品无码AV久久久| 久久精品国产亚洲AV影院| 2022一本久道久久综合狂躁| 青青精品国产自在线拍| 国产精品成人不卡在线观看| 亚洲欧美日韩综合影院| 毛片在线网址| 成人免费视频网站www| 羞羞麻豆国产精品1区2区3区| 黄得让人湿的片段| 91嫩草视频在线观看| 三级黄色在线看| 好大的太粗好深BL|