色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

借助 NVIDIA 融合加速器開發套件加速數據中心 AI

NVIDIA英偉達 ? 來源:NVIDIA 英偉達 ? 作者:NVIDIA 英偉達 ? 2021-11-16 16:12 ? 次閱讀

現代數據中心變得越來越難以管理。應用程序和 PB 級日志數據之間有數十億條可能的連接路徑。靜態規則不足以適應動態微服務的安全策略,而且人工已經無法應對數量龐大的日志數據的分析。

AI 是通往未來安全和自主管理式數據中心的唯一出路。

NVIDIA 融合加速器在業界率先推出 AI 增強型 DPU。它將 GPU 的強大計算能力與 DPU 的網絡加速和安全優勢相結合,為 AI 增強型數據中心管理創造了統一平臺。融合加速器可將 AI 生成的規則應用于數據中心網絡中的每個數據包,為實現實時安全和管理創造新的可能性。圖像展示了將 BlueField-2 DPU 和 Ampere GPU 相結合的 NVIDIA 新型融合加速器。

在 NVIDIA GTC 大會上,我們推出了兩款新型融合加速器。A100X 在單一模組中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 則融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有獨特的能力,除了 BlueField-2 的卸載、隔離和加速網絡功能,進一步拓展到 AI 推理和訓練功能。

兩款加速器都包含一個集成的 PCIe 交換機實現DPU 和 GPU 連接。集成交換機能夠消除對主機資源的爭用,實現線速 GPUDirect RDMA 性能。集成交換機還通過隔離 GPU 和網卡之間移動的數據來提高安全性。

AI 增強型 DPU

融合加速器支持兩種運行模式:

標準模式 – BlueField-2 DPU 和 GPU 分別獨立運行。

BlueField-X模式 – PCI 交換機進行了重新配置,GPU 將專用于 DPU,并且對于主機系統不可見。

在 BlueField-X 模式下,只有 DPU 上運行的操作系統可見到GPU。BlueField-X 模式在業界首創了一種新型加速器類型:GPU 加速的 DPU。圖像展示了在 BlueField-X 模式下,主機服務器中的 CPU 連接到融合加速器。融合加速器的 PCIe 交換機連接到 CPU 和 DPU。而 GPU 僅通過 PCIe 交換機與 DPU連接。

在 BlueField-X 模式下,GPU 可以對流經 DPU 的數據運行 AI 模型,成為 “bump in the wire”。保障安全同時,無性能損耗。AI 模型無需消耗主機資源,實現完全加速。

BlueField-X 為網絡安全、數據中心管理和 I/O 加速解鎖新穎使用場景。例如,Morpheus 網絡安全框架使用機器學習對以往無法識別的安全威脅進行有效處理。Morpheus 通過 DPU 從數據中心的各個服務器獲取遙測數據,并將其發送到配備 GPU 的服務器進行分析。

有了 BlueField-X,AI 模型可以在每個服務器的融合加速器上直接本地運行。這使 Morpheus 能夠更快地分析更多數據,同時消除代價很高的數據移動,并縮小惡意攻擊面。由 BlueField-X 加速的 Morpheus 使用案例包括惡意軟件檢測、數據泄漏預防和動態防火墻規則創建等。

Morpheus 示例僅僅是 BlueField-X 實現加速的一種使用場景。我們的客戶經常與我們分享一些我們尚未考慮到的新想法。為了對 AI 增強的網絡進行更多創造性的探索,我們現正推出 NVIDIA 融合加速器開發套件。

結合此開發套件,我們為有意構建新一代加速 AI 網絡應用的特定客戶和合作伙伴提供 A30X 加速器的搶先體驗計劃。在邊緣計算或數據中心管理中探索 BlueField-X 的新應用場景。以下例子為您做參考:

透明視頻預處理 – Bump-in-the-wire 視頻預處理(解密、交錯、格式轉換等),以提高 IVA 吞吐量和攝像頭密度。

小基站 RU 解決方案 – RAN 信號處理聚合加速器,以增加商業 gNodeB 服務器上的用戶密度和吞吐量。

計算存儲 – Bump-in-the-wire 存儲加密、索引和哈希,為長期存儲主機數據準備處理卸載昂貴的 CPU 資源。

作弊檢測 – 檢測流式游戲服務中的惡意游戲/作弊

開始使用 NVIDIA 融合加速器開發套件

NVIDIA 融合加速器開發套件包含有結合 CUDA 和 NVIDIA DOCA 的示例應用程序,以及幫助安裝、配置新型融合加速器的文檔。最重要的是,可提供 A30X 及應用支持來換取用戶的寶貴反饋。

要開始使用,只需在 NVIDIA 融合加速器開發套件網頁上完成注冊。獲得批準后,一旦硬件準備好發貨,將由工作人員主動聯系。之后就可以開啟新一代加速應用之旅了。

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 加速器
    +關注

    關注

    2

    文章

    796

    瀏覽量

    37838
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4729

    瀏覽量

    128890
  • 主機
    +關注

    關注

    0

    文章

    993

    瀏覽量

    35114
  • 數據中心
    +關注

    關注

    16

    文章

    4761

    瀏覽量

    72033
  • DPU
    DPU
    +關注

    關注

    0

    文章

    357

    瀏覽量

    24169

原文標題:GTC21 | 借助 NVIDIA 融合加速器開發套件加速數據中心 AI

文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創意加速器

    加速器
    龍智DevSecOps
    發布于 :2024年11月26日 13:42:47

    NVIDIA加速AI在日本各行各業的應用

    企業借助基于 NVIDIA AI Enterprise 與 Omniverse 工業 AI 構建的創新中心和服務
    的頭像 發表于 11-19 15:45 ?222次閱讀

    日本企業借助NVIDIA產品加速AI創新

    日本領先企業和大學正在使用 NVIDIA NeMo、NIM 微服務和 NVIDIA Isaac 加速 AI 創新。
    的頭像 發表于 11-19 14:34 ?281次閱讀

    【xG24 Matter開發套件試用體驗】深入了解Silicon Labs xG24 Matter開發套件

    -使用Silicon Labs xG24開發套件支持智能加速器以構建聲音感知門鎖”(Creating a Smarthome Device That Is Truly Smart - Building
    發表于 08-27 20:23

    適用于數據中心應用中的硬件加速器的直流/直流轉換解決方案

    電子發燒友網站提供《適用于數據中心應用中的硬件加速器的直流/直流轉換解決方案.pdf》資料免費下載
    發表于 08-26 09:38 ?0次下載
    適用于<b class='flag-5'>數據中心</b>應用中的硬件<b class='flag-5'>加速器</b>的直流/直流轉換<b class='flag-5'>器</b>解決方案

    借助NVIDIA NIM加速AI應用部署

    大語言模型(LLM)在企業組織中的應用日益廣泛,許多企業都將其整合到 AI 應用中。雖然從基礎模型著手十分高效,但需要花費一定的精力才能將它們整合到生產就緒型環境中。NVIDIA NIM簡化了這一過程,使企業能夠在數據中心、云、
    的頭像 發表于 08-23 16:38 ?384次閱讀
    <b class='flag-5'>借助</b><b class='flag-5'>NVIDIA</b> NIM<b class='flag-5'>加速</b><b class='flag-5'>AI</b>應用部署

    【xG24 Matter開發套件試用體驗】初識xG24 Matter開發套件

    借助高性能 2.4 GHz RF、低電流消耗、人工智能 (AI)/機器學習 (ML) 硬件加速器和 Secure Vault 等關鍵功能,物聯網設備制造商可以打造智能、強大、節能且能夠避免遠程
    發表于 07-11 23:31

    “白地板”方案,智算中心加速器

    明德源能白地板方案,智算中心加速器
    的頭像 發表于 06-21 11:54 ?780次閱讀

    八大科技巨頭攜手推進UALink,加速數據中心AI互聯

    近日,英特爾、Google、微軟、Meta等八家科技巨頭宣布共同成立超加速器鏈接(UALink)推廣小組,致力于推動數據中心AI加速器芯片的連接組件發展。UALink旨在優化
    的頭像 發表于 05-31 10:59 ?829次閱讀

    美國限制向中東AI加速器出口,審查國家安全

    AI加速器能協助數據中心處理大量人工智能聊天機器人和其他工具的開發信息。如今,它們已然成為構建AI基礎設施的企業和政府的必需品。
    的頭像 發表于 05-31 09:20 ?577次閱讀

    借助NVIDIA DOCA 2.7增強AI數據中心NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架為開發者提供了豐富的庫、驅動和 API,以便為 NVIDIA BlueField DPU 和 SuperNIC 創建高性能的應用程序和服務。
    的頭像 發表于 05-29 09:22 ?486次閱讀

    聯發科發布天璣AI開發套件,賦能終端生成式AI應用

    聯發科近日推出了全新的天璣AI開發套件,旨在為合作伙伴打造一站式解決方案,以加速終端生成式AI應用的開發。這款
    的頭像 發表于 05-10 11:19 ?590次閱讀

    家居智能化,推動AI加速器的發展

    提高了系統的運算能力和數據處理能力,還為用戶帶來了更加智能化、個性化的生活體驗。 ? AI 加速器的發展 ? 在人工智能和機器學習任務變得日益復雜和密集之前,傳統的CPU和GPU已經足以處理這些任務。然而,隨著深度學習模型的出現
    的頭像 發表于 02-23 00:18 ?4580次閱讀

    回旋加速器原理 回旋加速器的影響因素

    回旋加速器的核心部分是一個半徑為R的磁場區域和一對位于磁場中心的D形電極。磁場區域由一個或多個磁鐵和調節磁場強度的電流源組成。當加速器通電時,在磁場中心將產生一個垂直于電極的磁場。
    的頭像 發表于 01-30 10:02 ?3924次閱讀

    2024年大型數據中心芯片盤點

    Nvidia 計劃在 2024 年推出大量新的加速器、GPU 架構和網絡套件。英特爾將與新的 Habana Gaudi AI 芯片一起推出可以說是多年來最引人注目的 Xeon。
    發表于 01-11 10:27 ?1278次閱讀
    2024年大型<b class='flag-5'>數據中心</b>芯片盤點
    主站蜘蛛池模板: 99久久爱re热6在线播放| adc高清在线观看| 在线天天看片视频免费观看| 永久免费的无码中文字幕| 4k岛国精品午夜高清在线观看| 91精品在线国产| 吃奶摸下的羞羞漫画| 国产精品久久久久久人妻精品流| 国产亚洲精品久久7777777| 久久精品国产亚洲AV天美18| 免费观看视频成人国产| 日本wwwxx| 亚洲AV无码偷拍在线观看| 伊人国产在线观看| JEALOUSVUE成熟老师APP| 国产黄a三级三级三级| 精品香蕉99久久久久网站| 蜜桃传媒星空传媒在线播放| 日日干夜夜爽| 亚洲人成在线观看一区二区| 94色94色永久网站| 国产成人精品久久久久婷婷| 九九热免费在线观看| 亲胸吻胸添奶头GIF动态图免费| 无码一区国产欧美在线资源| 御姐被吸奶| 囯产精品麻豆巨作久久| 九九99热久久精品在线6| 秋霞电影网视频一区二区三区| 亚洲AV日韩AV欧美在线观看网| 2021全国精品卡一卡二| 国产AV午夜精品一区二区入口| 久久99国产精品自在自在| 青青草伊人| 野花日本大全免费观看3中文版 | 色小姐.com| 野花香在线观看免费高清播放视频 | 亚洲色播永久网址大全| 99久久综合精品免费| 国内精品国内自产视频| 欧美日韩无套内射另类|