色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

FPGA執行計算密集型任務性能表現及優勢有哪些

FPGA研究院 ? 來源:FPGA研究院 ? 作者:FPGA研究院 ? 2022-11-10 09:49 ? 次閱讀

FPGA可用于處理多元計算密集型任務,依托流水線并行結構體系,FPGA相對GPUCPU在計算結果返回時延方面具備技術優勢。

計算密集型任務:矩陣運算、機器視覺、圖像處理、搜索引擎排序、非對稱加密等類型的運算屬于計算密集型任務。該類運算任務可由CPU卸載至FPGA執行。

FPGA執行計算密集型任務性能表現:

? 計算性能相對CPU:如Stratix系列FPGA進行整數乘法運算,其性能與20核CPU相當,進行浮點乘法運算,其性能與8核CPU相當。

? 計算性能相對GPU:FPGA進行整數乘法、浮點乘法運算,性能相對GPU存在數量級差距,可通過配置乘法器、浮點運算部件接近GPU計算性能。

FPGA執行計算密集型任務核心優勢:搜索引擎排序、圖像處理等任務對結果返回時限要求較為嚴格,需降低計算步驟時延。傳統GPU加速方案下數據包規模較大,時延可達毫秒級別。FPGA加速方案下,PCIe時延可降至微秒級別。遠期技術推動下,CPU與FPGA數據傳輸時延可降至100納秒以下。

FPGA可針對數據包步驟數量搭建同等數量流水線(流水線并行結構),數據包經多個流水線處理后可即時輸出。GPU數據并行模式依托不同數據單元處理不同數據包,數據單元需一致輸入、輸出。針對流式計算任務,FPGA流水線并行結構在延遲方面具備天然優勢。

aa727d8e-608c-11ed-8abf-dac502259ad0.png

FPGA用于處理通信密集型任務不受網卡限制,在數據包吞吐量、時延方面表現優于CPU方案,時延穩定性較強。

通信密集型任務:對稱加密、防火墻、網絡虛擬化等運算屬于通信密集型計算任務,通信密集數據處理相對計算密集數據處理復雜度較低,易受通信硬件設備限制。

FPGA執行通信密集型任務優勢:

① 吞吐量優勢:CPU方案處理通信密集任務需通過網卡接收數據,易受網卡性能限制(線速處理64字節數據包網卡有限,CPU及主板PCIe網卡插槽數量有限)。GPU方案(高計算性能)處理通信密集任務數據包缺乏網口,需依靠網卡收集數據包,數據吞吐量受CPU及網卡限制,時延較長。FPGA可接入40Gbps、100Gbps網線,并以線速處理各類數據包,可降低網卡、交換機配置成本。

② 時延優勢:CPU方案通過網卡收集數據包,并將計算結果發送至網卡。受網卡性能限制,DPDK數據包處理框架下,CPU處理通信密集任務時延近5微秒,且CPU時延穩定性較弱,高負載情況下時延或超過幾十微秒,造成任務調度不確定性。FPGA無需指令,可保證穩定、極低時延,FPGA協同CPU異構模式可拓展FPGA方案在復雜端設備的應用。

aa7a3826-608c-11ed-8abf-dac502259ad0.png

FPGA部署包括集群式、分布式等,逐漸從中心化過渡至分布式,不同部署方式下,服務器溝通效率、故障傳導效應表現各異。

FPGA嵌入功耗負擔:FPGA嵌入對服務器整體功耗影響較小,以Catapult聯手微軟開展的FPGA加速機器翻譯項目為例,加速模塊整體總計算能力達到103Tops/W,與10萬塊GPU計算能力相當。相對而言,嵌入單塊FPGA導致服務器整體功耗增加約30W。

FPGA部署方式特點及限制:

① 集群部署特點及限制:FPGA芯片構成專用集群,形成FPGA加速卡構成的超級計算器(如Virtex系列早期實驗板于同一硅片部署6塊FPGA,單位服務器搭載4塊實驗板)。

? 專用集群模式無法在不同機器FPGA之間實現通信;

? 數據中心其他機器需集中發送任務至FPGA集群,易造成網絡延遲;

? 單點故障導致數據中心整體加速能力受限

② 網線連接分布部署:為保證數據中心服務器同構性(ASIC解決方案亦無法滿足),該部署方案于不同服務器嵌入FPGA,并通過專用網絡連接,可解決單點故障傳導、網絡延遲等問題。

?類同于集群部署模式,該模式不支持不同機器FPGA間通信;

?搭載FPGA芯片的服務器具備高度定制化特點,運維成本較高

③ 共享服務器網絡部署:該部署模式下,FPGA置于網卡、交換機間,可大幅提高加速網絡功能并實現存儲虛擬化。FPGA針對每臺虛擬機設置虛擬網卡,虛擬交換機數據平面功能移動至FPGA內,無需CPU或物理網卡參與網絡數據包收發過程。該方案顯著提升虛擬機網絡性能(25Gbps),同時可降低數據傳輸網絡延遲(10倍)。

aa84c6a6-608c-11ed-8abf-dac502259ad0.png

分享服務器網絡部署模式下,FPGA加速器有助于降低數據傳輸時延,維護數據中心時延穩定,顯著提升虛擬機網絡性能。

分享服務器網絡部署模式下FPGA加速Bing搜索排序:Bing搜索排序于該模式下采用10Gbps專用網線通信,每組網絡由8個FPGA組成。其中,部分負責提取信號特征,部分負責計算特征表達式,部分負責計算文檔得分,最終形成機器人即服務(RaaS)平臺。FPGA加速方案下,Bing搜索時延大幅降低,延遲穩定性呈現正態分布。該部署模式下,遠程FPGA通信延遲相對搜索延遲可忽略。

aa8c8562-608c-11ed-8abf-dac502259ad0.png

Azure服務器部署FPGA模式:Azure針對網絡及存儲虛擬化成本較高等問題采取FPGA分享服務器網絡部署模式。隨網絡計算速度達到40Gbps,網絡及存儲虛擬化CPU成本激增(單位CPU核僅可處理100Mbps吞吐量)。通過在網卡及交換機間部署FPGA,網絡連接擴展至整個數據中心。通過輕量級傳輸層,同一服務器機架時延可控制在3微秒內,觸達同數據中心全部FPGA機架時延可控制在20微秒內。

依托高帶寬、低時延優勢,FPGA可組成網絡交換層與服務器軟件之間的數據中心加速層,并隨分布式加速器規模擴大實現性能超線性提升。

數據中心加速層:FPGA嵌入數據中心加速平面,位于網絡交換層(支架層、第一層、第二層)及傳統服務器軟件(CPU層面運行軟件)之間。

加速層優勢:

? FPGA加速層負責為每臺服務器(提供云服務)提供網絡加速、存儲虛擬化加速支撐,加速層剩余資源可用于深度神經網絡(DNN)等計算任務。

? 隨分布式網絡模式下FPGA加速器規模擴大,虛擬網絡性能提升呈現超線性特征。

加速層性能提升原理:使用單塊FPGA時,單片硅片內存不足以支撐全模型計算任務,需持續訪問DRAM以獲取權重,受制于DRAM性能。加速層通過數量眾多的FPGA支撐虛擬網絡模型單層或單層部分計算任務。該模式下,硅片內存完整加載模型權重,可突破DRAM性能瓶頸,FPGA計算性能得到充分發揮。加速層需避免計算任務過度拆分而導致計算、通信失衡。

aa9212e8-608c-11ed-8abf-dac502259ad0.png

嵌入式eFPGA技術在性能、成本、功耗、盈利能力等方面優于傳統FPGA嵌入方案,可針對不同應用場景、不同細分市場需求提供靈活解決方案.

eFPGA技術驅動因素:設計復雜度提升伴隨設備成本下降的經濟趨勢促發市場對eFPGA技術需求。

器件設計復雜度提升:SoC設計實現過程相關軟件工具趨于復雜(如Imagination Technologies為滿足客戶完整開發解決方案需求而提供PowerVR圖形界面、Eclipse整合開發環境),工程耗時增加(編譯時間、綜合時間、映射時間,FPGA規模越大,編譯時間越長)、制模成本提高(FPGA芯片成本為同規格ASIC芯片成本100倍)。

設備單位功能成本持續下降:20世紀末期,FPGA平均售價較高(超1,000元),傳統模式下,FPGA與ASIC集成設計導致ASIC芯片管芯面積、尺寸增大,復雜度提升,早期混合設備成本較高。21世紀,相對批量生產的混合設備,FPGA更多應用于原型設計、預生產設計,成本相對傳統集成持續下降(最低約100元),應用靈活。eFPGA技術優勢:

更優質:eFPGA IP核及其他功能模塊的SoC設計相對傳統FPGA嵌入ASIC解決方案,在功耗、性能、體積、成本等方面表現更優。

更方便:下游應用市場需求更迭速度快,eFPGA可重新編程特性有助于設計工程師更新SoC,產品可更長久占有市場,利潤、收入、盈利能力同時大幅提升。eFPGA方案下SoC可實現高效運行,一方面迅速更新升級以支持新接口標準,另一方面可快速接入新功能以應對細分化市場需求。

更節能:SoC設計嵌入eFPGA技術可在提高總性能的同時降低總功耗。利用eFPGA技術可重新編程特性,工程師可基于硬件,針對特定問題對解決方案進行重新配置,進而提高設計性能、降低功耗。

aa9c5104-608c-11ed-8abf-dac502259ad0.png

FPGA技術無需依靠指令、無需共享內存,在云計算網絡互連系統中提供低延遲流式通信功能,可廣泛滿足虛擬機之間、進程之間加速需求.

FPGA云計算任務執行流程:主流數據中心以FPGA為計算密集型任務加速卡,賽靈思及阿爾特拉推出基于OpenCL的高層次編程模型,模型依托CPU觸達DRAM,向FPGA傳輸任務,通知執行,FPGA完成計算并將執行結果傳輸至DRAM,最終傳輸至CPU。

FPGA云計算性能升級空間:受限于工程實現能力,當前數據中心FPGA與CPU之間通信多以DRAM為中介,通過燒寫DRAM、啟動kernel、讀取DRAM的流程完成通信(FPGADRAM相對CPU DRAM數據傳輸速度較慢),時延近2毫秒(OpenCL、多個kernel間共享內存)。CPU與FPGA間通信時延存在升級空間,可借助PCIe DMA實現高效直接通信,時延最低可降至1微秒。

FPGA云計算通信調度新型模式:新通信模式下,FPGA與CPU無需依托共享內存結構,可通過管道實現智行單元、主機軟件之間的高速通信。云計算數據中心任務較為單一,重復性強,主要包括虛擬平臺網絡構建和存儲(通信任務)以及機器學習、對稱及非對稱加密解密(計算任務),算法較為復雜。新型調度模式下,CPU計算任務趨于碎片化,遠期云平臺計算中心或以FPGA為主,并通過FPGA將復雜計算任務卸載至CPU(區別于傳統模式下CPU卸載任務至FPGA的模式)。

aaae1010-608c-11ed-8abf-dac502259ad0.png

全球FPGA市場由四大巨頭Xilinx賽靈思,Intel英特爾(收購阿爾特拉)、Lattice萊迪思、Microsemi美高森美壟斷,四大廠商壟斷9,000余項專利技術,把握行業“制空權”。

FPGA芯片行業形成以來,全球范圍約有超70家企業參與競爭,新創企業層出不窮(如Achronix Semiconductor、MathStar等)。產品創新為行業發展提供動能,除傳統可編程邏輯裝置(純數字邏輯性質),新型可編程邏輯裝置(混訊性質、模擬性質)創新速度加快,具體如Cypress Semiconductor 研 發 具 有 可 組 態 性 混 訊 電 路 PSoC(Programmable System on Chip),再如Actel推出Fusion(可程序化混訊芯片)。此外,部分新創企業推出現場可編程模擬數組FPAA(Field Programmable Analog Array)等。

智能化市場需求變化演進,高度定制化芯片(SoC ASIC)因非重復投資規模大、研發周期長等特點導致市場風險劇增。相對而言,FPGA在并行計算任務領域具備優勢,在高性能、多通道領域可以代替部分ASIC。人工智能領域多通道計算任務需求推動FPGA技術向主流演進。

基于FPGA芯片在批量較?。髌?萬片為界限)、多通道計算專用設備(雷達、航天設備)領域的優勢,下游部分應用市場以FPGA取代ASIC應用方案。

中國FPGA芯片研發企業可以紫光同創、國微電子、成都華微電子、安路科技、智多晶、高云半導體、上海復旦微電子和京微齊力為例。從產品角度分析,中國FPGA硬件性能指標相較賽靈思、Intel等差距較大。紫光同創是當前中國市場唯一具備自主產權千萬門級高性能FPGA研發制造能力的企業。上海復旦微電子于2018年5月推出自主知識產權億門級FPGA產品。中國FPGA企業緊跟大廠步伐,布局人工智能、自動駕駛等市場,打造高、中、低端完整產品線。

中國FPGA企業競爭突破口現階段中國FPGA廠商芯片設計軟件、應用軟件不統一,易在客戶端造成資源浪費,頭部廠商可帶頭集中產業鏈資源,提高行業整體競爭力。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • FPGA
    +關注

    關注

    1636

    文章

    21841

    瀏覽量

    608492
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10951

    瀏覽量

    213945
  • 機器視覺
    +關注

    關注

    163

    文章

    4440

    瀏覽量

    121169

原文標題:收藏:FPGA知識及芯片技術

文章出處:【微信號:FPGA研究院,微信公眾號:FPGA研究院】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    請問如何在Python中實現多線程與多進程的協作?

    大家好!我最近在開發一個Python項目時,需要同時處理多個任務,且每個任務需要不同的計算資源。我想通過多線程和多進程的組合來實現并發,但遇到了一些問題。 具體來說,我兩個
    發表于 03-11 06:57

    GPU加速計算平臺的優勢

    傳統的CPU雖然在日常計算任務表現出色,但在面對大規模并行計算需求時,其性能往往捉襟見肘。而GPU加速
    的頭像 發表于 02-23 16:16 ?144次閱讀

    金倉數據庫入選《2024年度專利密集型產品名單》

    2月8日, 國家專利密集型產品備案認定試點平臺公布了《2024年度專利密集型產品名單》,由電科金倉自主研發的金倉數據庫管理系統(KingbaseES)憑借扎實的技術積淀與市場驗證,成功入選該名
    的頭像 發表于 02-23 15:42 ?147次閱讀
    金倉數據庫入選《2024年度專利<b class='flag-5'>密集型</b>產品名單》

    怎么在JAVA中確定線性池大小

    在JAVA中確定線性池大小,分別介紹CPU密集型任務和I/O密集型任務及其處理方法。
    的頭像 發表于 10-24 14:02 ?277次閱讀

    FPGA在圖像處理領域的優勢哪些?

    單元和可編程互聯線,可以實現高度并行的數據處理。在圖像處理任務中,如圖像預處理、特征提取和圖像識別等,需要大量的計算任務。FPGA可以通過并行處理技術,將這些
    發表于 10-09 14:36

    人員定位系統對生產密集型企業的重要意義

    發電、供電、石油化工、鋼鐵冶金行業為生產設備密集型企業,生產現場錯綜復雜,稍有不慎便會發生危險;建筑工地現場施工作業中,存在著人員流動性大、現場狀況雜亂、安全隱患難以察覺等問題;工廠安全管理混亂
    的頭像 發表于 09-10 17:30 ?360次閱讀
    人員定位系統對生產<b class='flag-5'>密集型</b>企業的重要意義

    廣和通端側AI解決方案驅動性能密集型場景商用場景商用

    2024世界機器人大會期間,廣和通宣布:基于高通QCS8550平臺的廣和通端側AI解決方案高效使能性能密集型場景。該端側AI解決方案整合強大AI算力、邊緣側AI數據分析及Wi-Fi 7連接方式,可為自主移動機器人、工業無人機、云服務器和AI邊緣
    的頭像 發表于 08-23 16:06 ?437次閱讀

    廣和通端側AI解決方案驅動性能密集型場景商用場景商用

    2024世界機器人大會期間,廣和通宣布:基于高通QCS8550平臺的廣和通端側AI解決方案高效使能性能密集型場景。該端側AI解決方案整合強大AI算力、邊緣側AI數據分析及Wi-Fi 7連接方式,可為自主移動機器人、工業無人機、云服務器和AI邊緣
    的頭像 發表于 08-23 16:05 ?813次閱讀
    廣和通端側AI解決方案驅動<b class='flag-5'>性能</b><b class='flag-5'>密集型</b>場景商用<b class='flag-5'>型</b>場景商用

    FPGA在自動駕駛領域哪些優勢?

    領域的主要優勢: 高性能與并行處理能力: FPGA內部包含大量的邏輯門和可配置的連接,能夠同時處理多個數據流和計算任務。這種并行處理能力使
    發表于 07-29 17:11

    FPGA在人工智能中的應用哪些?

    和安全的云計算和網絡服務。 三、具體應用場景 圖像分類:在圖像分類任務中,FPGA可以承擔前置處理、圖像卷積、全連接等任務。通過FPGA的并
    發表于 07-29 17:05

    鴻蒙OS開發實例:【ArkTS類庫多線程CPU密集型任務TaskPool】

    CPU密集型任務是指需要占用系統資源處理大量計算能力的任務,需要長時間運行,這段時間會阻塞線程其它事件的處理,不適宜放在主線程進行。例如圖像處理、視頻編碼、數據分析等。 基于多線
    的頭像 發表于 04-01 22:25 ?972次閱讀
    鴻蒙OS開發實例:【ArkTS類庫多線程CPU<b class='flag-5'>密集型</b><b class='flag-5'>任務</b>TaskPool】

    鴻蒙OS開發實例:【ArkTS類庫多線程I/O密集型任務開發】

    使用異步并發可以解決單次I/O任務阻塞的問題,但是如果遇到I/O密集型任務,同樣會阻塞線程中其它任務執行,這時需要使用多線程并發能力來進行
    的頭像 發表于 04-01 16:32 ?646次閱讀
    鴻蒙OS開發實例:【ArkTS類庫多線程I/O<b class='flag-5'>密集型</b><b class='flag-5'>任務</b>開發】

    博泰“車聯網云服務平臺”入選2023年度專利密集型產品名單

    近日,中國專利保護協會首次組織開展了專利密集型產品認定工作,并于近期發布2023年專利密集型產品名單,博泰的“車聯網云服務平臺”入選2023年度專利密集型產品名單。
    的頭像 發表于 03-29 10:23 ?551次閱讀
    博泰“車聯網云服務平臺”入選2023年度專利<b class='flag-5'>密集型</b>產品名單

    鴻蒙原生應用開發-ArkTS語言基礎類庫多線程I/O密集型任務開發

    使用異步并發可以解決單次I/O任務阻塞的問題,但是如果遇到I/O密集型任務,同樣會阻塞線程中其它任務執行,這時需要使用多線程并發能力來進行
    發表于 03-21 14:57

    鴻蒙原生應用開發-ArkTS語言基礎類庫多線程CPU密集型任務TaskPool

    CPU密集型任務是指需要占用系統資源處理大量計算能力的任務,需要長時間運行,這段時間會阻塞線程其它事件的處理,不適宜放在主線程進行。例如圖像處理、視頻編碼、數據分析等。 基于多線程并發
    發表于 03-19 14:14
    主站蜘蛛池模板: 97SE亚洲国产综合自在线不卡 | 国产一卡2卡3卡4卡孕妇网站 | 久久中文字幕无线观看 | gogogo免费视频观看 | 成年无码av片| 黑色丝袜美腿美女被躁翻了 | 99久久99久久精品 | 欧美亚洲国产激情一区二区 | 美女乱草鲍高清照片 | 99riav9 精品香蕉免费大视频 | 快穿做妓女好爽H | 国产精品成久久久久三级四虎 | 日本亚洲精品无码区国产电影 | 久久99视热频国只有精品 | 久久亚洲欧美国产综合 | 邪恶肉肉全彩色无遮琉璃神社 | 在线欧美精品一区二区三区 | 极品少妇高潮啪啪AV无码 | 亚洲国产成人在线 | 99热最新网站 | 亚欧成人毛片一区二区三区四区 | 亚洲欧美免费无码专区 | 99久久无码热高清精品 | 中文在线观看 | 婷婷射精AV这里只有精品 | 中文字幕在线不卡精品视频99 | 2021国产精品一卡2卡三卡4卡 | 纲手胸被爆羞羞免费 | 麻豆成人AV久久无码精品 | 20岁中国男同志china1069 20岁αsrian男同志免费 | 学校女性奴sm训练调教 | 熟女久久久久久久久久久 | 亚洲欧美韩国综合色 | 樱桃视频高清免费观看在线播放 | 果冻传媒独家原创在线观看 | 99久久99久久精品免费看子 | 久久99这里只有精品 | 国产欧美无码亚洲 | 一个人在线观看免费高清视频 | 热の中文 AV天堂 | 女人被躁到高潮嗷嗷叫小 |