色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

FPGA與GPU計算存儲單位功耗性能

算法與數(shù)據(jù)結(jié)構(gòu) ? 來源:Xilinx賽靈思 ? 作者:Xilinx ? 2021-08-13 17:45 ? 次閱讀

為了提升計算基礎(chǔ)設(shè)施的性能,并緊跟數(shù)據(jù)分析與 AI 不斷攀升的需求,眾多企業(yè)將硬件加速視為主要的解決方案。在大多數(shù)情況下,先進的可編程硬件(主要是指 GPUFPGA)是加速的主要方式。通過使用這種先進的硬件,企業(yè)正在贏得計算優(yōu)勢;然而,對于編程難度,他們?nèi)匀淮嬖诤侠淼膿鷳n。

硬件制造商正在將加速方法應(yīng)用于計算存儲,這是專門設(shè)計用于包含內(nèi)嵌計算元素的存儲。這種方法已經(jīng)被證明可以為分析和 AI 應(yīng)用提供優(yōu)異的性能。使用或者不使用機器學習輔助的分析以及驗證,都可以借助計算存儲器件進行加速。這些器件提供了一個關(guān)鍵的優(yōu)勢,使得成本高昂的計算被卸載到存儲器件上,而不必在服務(wù)器 CPU 上完成。與標準的存儲/CPU 方法相比,通過計算存儲獲得的優(yōu)勢包括:

1

借助應(yīng)用專用編程定制可編程硬件,獲得更高性能

2

將計算任務(wù)從服務(wù)器卸載到存儲器件,釋放 CPU 資源

3

數(shù)據(jù)與計算共址,降低數(shù)據(jù)傳輸需求

這種新穎的方法前景光明。不過,您應(yīng)根據(jù)具體用例評估這種方法,考量性能、成本、功耗和易用性。性價比和單位功耗性能在選擇加速硬件評估時,占據(jù)主要比率。在本文中,我們將研討單位功耗性能。

計算存儲功耗比較

在這個場景中,我們將比較以 CSV 數(shù)據(jù)讀取用例為主的三種工具:英偉達 GPUDirect 存儲 和RAPIDS存儲,以及基于賽靈思技術(shù)的三星 SmartSSD 存儲。CSV 讀取在計算密集型流水線中起著重要的作用。

在下文中,我們將性能定義成 CSV 的處理速率,或處理“帶寬”。我們先快速回顧一下三種系統(tǒng)的運行方式。

英偉達 GPUDirect 存儲

端到端滿足分析和 AI 需求

將 GPU 用作計算單元,緊貼基于 NVMe 的存儲器件布局 (GPUDirect)

使用 CUDA 進行編程 (RAPIDS)

英偉達用其 CSV 數(shù)據(jù)讀取技術(shù)衡量相對于標準 SSD 的性能提升。結(jié)果如圖 1 所示。使用 1 到 8 個加速器時,對應(yīng)的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驅(qū)動器

將賽靈思 FPGA 用作計算單元

與存儲邏輯內(nèi)嵌駐留在同一個內(nèi)部 PCIe 互聯(lián)上

通過編程在存儲平臺上開展運算

賽靈思數(shù)據(jù)分析解決方案合作伙伴 Bigstream 與三星合作,為 Apache Spark 設(shè)計加速器,包括用于 CSV 和 Parquet 處理的 IP。SmartSSD 的測試使用單機模式的 CSV 解析引擎,以便開展比較。結(jié)果如圖 2 所示,使用 1 到 12 個加速器時,對應(yīng)的吞吐量是 4 到 23GB/s,同時也給出英偉達的結(jié)果(使用 1 到 8 個加速器)。請注意,本討論中的所有結(jié)果都按 x 軸上的加速器數(shù)量進行參數(shù)化。

這些結(jié)果令人振奮,但在選擇您的解決方案時,請務(wù)必將功耗情況納入考慮。

單位功耗性能比較

圖 3 顯示了將功耗考慮在內(nèi)后的分析結(jié)果。它們代表單位功耗達到的性能水平,根據(jù)上述討論中引用的相關(guān)材料,給出了以下假設(shè):

Tesla V100 GPU:最大功耗 200 瓦

SmartSSD 驅(qū)動器 FPGA:最大功耗 30 瓦

在這個場景下,計算表明,在全部使用 8 個加速器的情況下,SmartSSD 的單位功耗性能比 GPUDirect Storage 高 25 倍。

最 終 思 考

計算存儲的優(yōu)勢在于能增強數(shù)據(jù)分析和 AI 應(yīng)用的性能。然而,要讓這種方法具備可實際部署的能力和實用性,就必須在評估時將功耗納入考慮。

針對用于 CSV 數(shù)據(jù)解析的兩種不同的計算存儲方法,我們已經(jīng)提出按功耗參數(shù)化的吞吐量性能曲線。結(jié)果顯示,在使用相似數(shù)量的加速器進行比較時,SmartSSD 驅(qū)動器的單位功耗性能優(yōu)于 GPUDirect存儲方法。

GPUDirect 是英偉達通過 NVIDIA DGX-2 應(yīng)用平臺提供的研究系統(tǒng)。

三星 SmartSSD 驅(qū)動器是一種可部署的量產(chǎn)型 PCIe 可插拔平臺,現(xiàn)在已經(jīng)通過賽靈思及分銷商供貨。

責任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1629

    文章

    21729

    瀏覽量

    603044
  • 驅(qū)動器
    +關(guān)注

    關(guān)注

    52

    文章

    8228

    瀏覽量

    146269
  • 三星電子
    +關(guān)注

    關(guān)注

    34

    文章

    15860

    瀏覽量

    180995
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4729

    瀏覽量

    128901

原文標題:FPGA 與 GPU 計算存儲加速對比

文章出處:【微信號:TheAlgorithm,微信公眾號:算法與數(shù)據(jù)結(jié)構(gòu)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    《CST Studio Suite 2024 GPU加速計算指南》

    問題,但會降低舊GPU硬件性能,可通過NVIDIA控制面板或命令行工具nvidia - smi管理。 - TCC模式(Windows only):某些GPU計算需要啟用,可通過命令行
    發(fā)表于 12-16 14:25

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解算力芯片GPU

    本篇閱讀學習第七、八章,了解GPU架構(gòu)演進及CPGPU存儲體系與線程管理 █從圖形到計算GPU架構(gòu)演進 GPU圖像
    發(fā)表于 11-03 12:55

    如何提高GPU性能

    在當今這個視覺至上的時代,GPU(圖形處理單元)的性能對于游戲玩家、圖形設(shè)計師、視頻編輯者以及任何需要進行高強度圖形處理的用戶來說至關(guān)重要。GPU不僅是游戲和多媒體應(yīng)用的心臟,它還在科學計算
    的頭像 發(fā)表于 10-27 11:21 ?431次閱讀

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學計算、數(shù)據(jù)分析、機器學習等復雜
    的頭像 發(fā)表于 10-25 09:23 ?246次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    CPU計算單元設(shè)計 4.1 計算單元邏輯構(gòu)成 4.2 數(shù)相浮點數(shù)的差異 4.3 算術(shù)邏輯單元 4.4 浮點數(shù)單元 4.5 指令的加載和存儲單元 4.6 單指今多數(shù)據(jù) 4.7 矩陣加速指令集 4.8
    發(fā)表于 10-15 22:08

    FPGA做深度學習能走多遠?

    。例如,在數(shù)據(jù)中心中,可以將 FPGA 與 CPU 或 GPU 結(jié)合使用,根據(jù)不同的任務(wù)需求進行靈活的資源分配和協(xié)同計算,提高整個系統(tǒng)的性能和效率。 ? 算法優(yōu)化和創(chuàng)新:隨著深度學習算
    發(fā)表于 09-27 20:53

    存儲器容量單位有哪些

    存儲器容量單位是指用于衡量存儲設(shè)備中存儲數(shù)據(jù)能力的單位。在計算機科學中,這些
    的頭像 發(fā)表于 09-05 12:41 ?1590次閱讀

    談一談FPGA設(shè)計中的功率計算

    隨著工藝技術(shù)的越來越前沿化, FPGA器件擁有更多的邏輯、存儲器和特殊功能,如存儲器接口、 DSP塊和多種高速SERDES信道,這些發(fā)展不斷地對系統(tǒng)功率要求提出挑戰(zhàn)。 功率計算的關(guān)鍵是
    發(fā)表于 07-31 22:37

    信號計算主板設(shè)計方案:735-基于3U VPX的AGX Xavier GPU計算主板

    3U VPX導冷結(jié)構(gòu) , FPGA信號預(yù)處理 , GPU顯卡 , PCIE視頻處理 , GPU計算主板
    的頭像 發(fā)表于 07-18 11:31 ?471次閱讀
    信號<b class='flag-5'>計算</b>主板設(shè)計方案:735-基于3U VPX的AGX Xavier <b class='flag-5'>GPU</b><b class='flag-5'>計算</b>主板

    科普:GPUFPGA,有何異同

    來源:內(nèi)容由半導體行業(yè)觀察(ID:icbank)編譯自techspot,謝謝。圖形處理單元(GPU)和現(xiàn)場可編程門陣列(FPGA)是用于成像和其他繁重計算的三種主要處理器類型中的兩種。中央處理器
    的頭像 發(fā)表于 06-15 08:27 ?642次閱讀
    科普:<b class='flag-5'>GPU</b>和<b class='flag-5'>FPGA</b>,有何異同

    fpgagpu的區(qū)別

    FPGA(現(xiàn)場可編程門陣列)和GPU(圖形處理器)在多個方面存在顯著的區(qū)別。
    的頭像 發(fā)表于 03-27 14:23 ?1205次閱讀

    FPGA在深度學習應(yīng)用中或?qū)⑷〈?b class='flag-5'>GPU

    ,并在運算速度和吞吐量方面提供了更高的性能。它們的使用壽命也更長,大約是 GPU 的 2-5 倍,并且對惡劣環(huán)境和其它特殊環(huán)境因素有更強的適應(yīng)性。 有一些公司已經(jīng)在他們的人工智能產(chǎn)品中使用了 FPGA
    發(fā)表于 03-21 15:19

    到底什么是ASIC和FPGA

    和架構(gòu)的角度,ASIC和FPGA性能和成本,肯定是優(yōu)于CPU和GPU的。 CPU、GPU遵循的是馮·諾依曼體系結(jié)構(gòu),指令要經(jīng)過存儲
    發(fā)表于 01-23 19:08

    FPGA、ASIC、GPU誰是最合適的AI芯片?

    CPU、GPU遵循的是馮·諾依曼體系結(jié)構(gòu),指令要經(jīng)過存儲、譯碼、執(zhí)行等步驟,共享內(nèi)存在使用時,要經(jīng)歷仲裁和緩存。 而FPGA和ASIC并不是馮·諾依曼架構(gòu)(是哈佛架構(gòu))。以FPGA
    發(fā)表于 01-06 11:20 ?1640次閱讀
    <b class='flag-5'>FPGA</b>、ASIC、<b class='flag-5'>GPU</b>誰是最合適的AI芯片?

    FPGAGPU的區(qū)別

    FPGA(現(xiàn)場可編程門陣列)和GPU(圖形處理器)是兩種常見的硬件加速器,用于提高計算和處理速度。盡管它們在很多方面都有重疊,但在架構(gòu)、設(shè)計和應(yīng)用上存在許多區(qū)別。在本文中,我們將詳細探討FPG
    的頭像 發(fā)表于 12-25 15:28 ?1725次閱讀
    主站蜘蛛池模板: 白洁在线观看| 67194成网页发布在线观看| 夜色55夜色66亚洲精品网站| 在线免费观看a视频| 国产成人亚洲综合无| 精品国产影院| 欧洲人交xxx69| 亚洲AV精品一区二区三区不卡| 一线高清视频在线播放| 爱人 qvod| 久久视热频国只有精品| 视频一区二区三区蜜桃麻豆| 浴室里强摁做开腿呻吟的漫画男男 | 4484在线观看视频| 国产午夜一级鲁丝片| 欧美色偷偷亚洲天堂bt| 亚洲国产精品特色大片观看| 被窝伦理电影午夜| 久久综合网久久综合| 亚洲精品久久久久无码AV片软件 | 一本道高清码v京东热| 国产成人久久婷婷精品流白浆| 麻花豆传媒剧国产免费mv观看| 亚洲AV成人片色在线观看网站| 草莓视频在线播放视频| 美女洗澡脱得一二干净| 亚洲深夜在线| 国产全肉乱妇杂乱视频| 无码欧美XXXXX在线观看裸| 成片免费观看视频大全| 免费完整版观看| 竹菊影视一区二区三区 | 精品国产乱码久久久久久夜深人妻| 深夜释放自己在线观看| 高清bblxx手机在线观看| 日本粉嫩学生毛绒绒| a在线免费观看视频| 欧美高清18| 99国产视频| 啪啪后入内射日韩| 帝王受PLAY龙椅高肉NP|