色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為什么要為開源重新構建FINN?

FPGA之家 ? 來源:FPGA之家 ? 作者:FPGA之家 ? 2021-04-08 10:34 ? 次閱讀

一個用于構建可擴展和FPGA上的快速BNN推理加速器 專門針對量化神經網絡 每秒處理數億次機器學習推斷

您聽說過 FINN 嗎?沒有?這個答案并不令人驚訝,因為這是一個用于探索基于 FPGA 的深層神經網絡推斷的實驗框架的全新再實現,而且它現在仍是賽靈思研究實驗室 (Xilinx Research Lab) 的測試版。然而, 雖然還是測試版,它已經發布了 v0.4b(測試版),并且自從在 GitHub 上開源以來,受到了廣泛關注。

2020 年 5 月,賽靈思研究實驗室的論文《FINN-R:快速探索量化神經網絡的端到端深度學習框架》獲得了計算機協會 (ACM) 可重構技術和系統匯刊 (TRETS) 2020 年年度最佳論文獎 —— 該獎項每年只授予全年論文中的一篇。該論文的第一作者、杰出工程師 Michaela Blott 女士和她的團隊在今年夏天的第 57 屆設計自動化大會線上頒獎典禮上接受了這一榮譽。該論文的評選引起了人們對 FINN 的更廣泛關注:FINN 是什么,為什么選擇 FINN,如何實現 FINN?帶著這些問題,我們采訪了 Michaela Blott 女士。

FINN 是什么?

FINN(神經網絡快速推斷)是我們的一個旗艦開源項目的名稱,是賽靈思研究實驗室的一個實驗框架,用于探索基于 FPGA 的深層神經網絡推斷。它專門針對量化神經網絡,著重于為每個網絡生成定制的數據流式架構。這種形式的高度專業化有助于加速需要更高吞吐量和超低時延的應用。 然而,要實現定制相當困難,而且通常只有專家才可以進行定制。對此,FINN 提供了一個端到端流程,即使是機器學習工程師也可以創建這些高度定制的硬件解決方案,以前饋數據流架構的形式為具有任意精度/任意層的空間展開式卷積神經網絡加速器提供支持。它實際上是一種工具流,能夠幫助沒有硬件專業知識的人員生成高度定制的 FPGA 設計,并從我們的器件所提供的性能和效率中獲益。 最初的版本側重于二進制網絡。自此,我們擴展到可支持任意精度 (FINN-R) 并提供更高靈活性的終端架構和目標平臺,其中包括給定器件的硬件成本估算。我們在包括 PYNQ 和 Alveo 在內的一系列平臺上對各種不同精度的神經網絡生成的架構進行了評估,從小型 CIFAR-10 分類器、基于 PASCAL VOC 數據集的 YOLO 對象檢測到 ImageNet 分類網絡和 LSTM。我們目前正在添加更多極端用例,比如網絡入侵檢測,在這種情況下,FINN 每秒可以處理數億次機器學習推斷。 如需了解有關 FINN 的更多基本信息,請訪問項目頁面,查看出版物或一些演示。

FINN 有哪些特性?

●模板化的 Vivado HLS 流組件庫:FINN 帶有 HLS 硬件庫,該硬件庫可將卷積,全連接,池化和 LSTM 層分類實現為流組件。該庫使用 C++ 格式來支持各種精度。

●超低時延和高性能的數據流:通過為每一層組成流組件,FINN 可以生成加速器,這些加速器可以以亞微秒級的時延對圖像進行分類。

●多種端到端的設計示例:我們提供的示例從訓練量化神經網絡開始,一直到硬件上運行的加速設計。這些示例涵蓋了一系列數據集和網絡拓撲。

●用于快速生成設計的工具流程:FINN 工具流程支持自動或手動為每層分配單獨的計算資源,并生成用于綜合的完整設計。這樣可以快速探索設計空間。

為什么要為開源重新構建 FINN?

在過去的幾年里,愛爾蘭賽靈思研究實驗室的團隊對量化神經網絡 (QNN) 進行了大量研究。從 2016 年基于 FPGA 的二進制神經網絡 (BNN) 開始,我們已經對量化深度學習的眾多方面進行了研究,涵蓋從更好的量化方法、混合量化和修剪到精確吞吐量權衡和遞歸拓撲等眾多領域。雖然我們工作的某些演示已經實現開源有一段時間了,但我們希望能更進一步。我們喜歡 QNN,同時也很青睞在賽靈思 FPGA 上為其構建的高性能、高效率的數據流加速器,我們希望您和 FPGA/ML 社區也能這樣做。實現這一目標的(協同)設計流程實際上相當復雜,從在機器學習框架中定制神經網絡開始,經過涉及眾多優化、HLS 代碼生成和 Vivado 綜合的多個設計步驟,最后得到 FPGA 比特流,可以作為某個應用的組成部分進行部署。其中大量步驟都需要一些手動操作,但是如果能有一個模塊化的、靈活的解決方案堆棧來支持您完成這個流程將非常有幫助。這就是為什么我們要從頭開始重建我們的 FINN 解決方案堆棧,使其更加模塊化。

我們選擇 FINN 開源路線的主要原因是為了提供更高程度的靈活性和透明度。機器學習研究進展迅速,因此 FINN 是研究人員可以用來實現最新層類型的工具。

用戶如何進一步了解 FINN?

訪問 https://xilinx.github.io/finn,我們有一個 gitter channel,您可以在那里提問。您可以使用 GitHub 問題跟蹤器報告錯誤,但請不要以提交問題的形式來提出問題,因為這在 gitter 頻道中可以得到更好的處理。此外,我們也衷心歡迎您針對本項目做出貢獻,請查看貢獻指南和公開問題列表。如果您有任何想法,請隨時聯系 Gitter 進行討論。 我們渴望擴大我們的社區,并希望聽到您的消息。

為什么開源和神經網絡

非常適合賽靈思?

賽靈思提供了可以對其器件進行編程的工具。有了開源,我們就可以充分利用并為世界一流的成果做出貢獻。FINN 的量化感知訓練庫 Brevitas (https://github.com/Xilinx/brevitas)建立在 Pytorch 上,Pytorch 是基于 Torch 庫的常用開源機器學習庫,用于計算機視覺和自然語言處理。 我們為這個現有的開源框架提供了大量的庫,這些庫使得對網絡的訓練可以一直精確到 1 位。這充分利用了 Pytorch 已有的所有優異技術,并使用戶群體從量化中獲益。此外,將這些網絡映射到我們的 FPGA 上的實現工具是開源的,它利用了現有的賽靈思技術,其中包括高層次綜合以及基于 FPGA 的布局布線。參見下圖。

關于賽靈思實驗室

賽靈思研究實驗室通過其對公司戰略和愿景的貢獻占據了技術領先地位。該組織為未來的產品創造新的技術機遇,致力于應對最新涌現的工程挑戰,并消除對實現公司業務目標至關重要的技術風險。我們積極地與各個高校、初創企業和采用早期技術的客戶建立聯系,發現新挑戰并獲得他們對新想法的反饋。

關于 Michaela Blott 簡介

Michaela Blott 是愛爾蘭都柏林賽靈思研究中心的杰出工程師,她領導著一個由國際科學家組成的團隊,該團隊致力于推進激動人心的研究,為賽靈思器件探索全新的應用領域,例如應用于嵌入式和超大規模部署的機器學習。她在德國凱澤斯勞滕大學獲得碩士學位,在研究機構(如蘇黎世聯邦理工學院和貝爾實驗室)和開發機構擁有超過 25 年的先進計算機架構以及先進 FPGA 和電路板設計經驗。她積極投身于國際研究界,擔任 FPL 2018 年的技術聯合主席、研討會組織者 (H2RC、ITEM)、眾多歐盟項目的行業顧問、眾多技術計劃委員會(FPL、ISFPGA、DATE 等)的成員,2015 年獲得 WMB 獎,入圍 2019 年 VentureBeat Women 人工智能獎,并獲得 2019 年女性科技獎。

責任編輯:lq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4771

    瀏覽量

    100720
  • Xilinx
    +關注

    關注

    71

    文章

    2167

    瀏覽量

    121321
  • 機器學習
    +關注

    關注

    66

    文章

    8408

    瀏覽量

    132574

原文標題:Xilinx實驗室為何為開源而重構 FINN?

文章出處:【微信號:zhuyandz,微信公眾號:FPGA之家】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    deepin社區落地開源生態發展合作倡議

    )五大操作系統開源社區聯合發起的開源生態發展合作倡議,deepin(深度)社區在操作系統構建工程落地上已有重要進展,彰顯了 deepin(深度)社區致力于構建一個更加開放、繁榮、安全、
    的頭像 發表于 12-17 09:35 ?152次閱讀

    Arm加入OpenCloudOS操作系統開源社區

    從 5G 基礎設施和軟件定義汽車,到移動端和嵌入式設備,Arm 的開源工作覆蓋全球技術生態系統的方方面面。持續的開源合作與技術創新賦能全球超過 2,000 萬開發者在 Arm 平臺上構建和測試
    的頭像 發表于 11-15 11:34 ?339次閱讀

    deepin社區亮相2024 OSCAR開源產業大會

    近日,由中國通信標準化協會主辦,中國信息通信研究院承辦的的“2024 OSCAR開源產業大會”在北京隆重開幕。本次大會旨在搭建專業平臺,廣納產研智慧,扎實開源體系構建,繁榮開源生態建設
    的頭像 發表于 10-18 13:44 ?366次閱讀

    RT-Thread Studio構建重新構建的不同,一般我們編譯工程時用哪個?

    想請教在RT-Thread Studio中,構建重新構建的不同,一般我們編譯工程時用哪個,謝謝!
    發表于 07-25 07:38

    PyTorch神經網絡模型構建過程

    PyTorch,作為一個廣泛使用的開源深度學習庫,提供了豐富的工具和模塊,幫助開發者構建、訓練和部署神經網絡模型。在神經網絡模型中,輸出層是尤為關鍵的部分,它負責將模型的預測結果以合適的形式輸出。以下將詳細解析PyTorch中神經網絡輸出層的特性及整個模型的
    的頭像 發表于 07-10 14:57 ?493次閱讀

    開啟開源布道新篇章 — LF開源軟件學園誠邀開源精英加入成為OSPO講師

    OSPO——企業開源戰略的引擎在當今數字化時代,開源軟件已成為推動全球技術創新的加速器。它不僅重塑了軟件開發的模式,更成為企業構建競爭優勢的關鍵。然而,隨著開源文化的深入人心,企業面臨
    的頭像 發表于 07-04 08:36 ?306次閱讀
    開啟<b class='flag-5'>開源</b>布道新篇章 — LF<b class='flag-5'>開源</b>軟件學園誠邀<b class='flag-5'>開源</b>精英加入成為OSPO講師

    求助,通過VScode構建的集成開發環境如何更新環境下的ESP-IDF版本?

    進行更新, 但是發現更新完之后再進行構建編譯項目的時候就會報錯.重新通過VScode 插件進行拉取安裝esp-idf之后 又能正常.
    發表于 06-17 06:38

    Redis開源版與Redis企業版,怎么選用?

    點擊“藍字”關注我們數以千計的企業和數以百萬計的開發人員Redis開源版來構建應用程序。但隨著用戶數量、數據量和地區性的增加,成本、可擴展性、運營和可用性等問題也隨之而來。Redis企業版
    的頭像 發表于 04-04 08:04 ?1052次閱讀
    Redis<b class='flag-5'>開源</b>版與Redis企業版,怎么選用?

    愛星物聯開源IoT平臺助力企業構建安全可定制化的IoT解決方案

    愛星物聯團隊近期推出了愛星物聯IoT平臺開源版本,該平臺專為智能設備和智能化企業量身打造,旨在提供成熟、安全且全球可用的物聯網服務。借助這一平臺,客戶可以大幅縮短研發周期,降低成本投入,迅速開發IoT產品,并構建出既安全穩定又高度可定制化的IoT解決方案。
    的頭像 發表于 03-25 10:05 ?439次閱讀

    鴻蒙開發【編譯構建】講解

    工具作為業界流行的自動化構建開源工具,本章節不再贅述,接下來為大家介紹Hvigor構建體系。 Hvigor構建工具:一款全新基于TS實現的前端構建
    發表于 02-27 17:41

    請問1PH8186主電機是否需要為冷卻風扇供電?

    1PH8186主電機是否需要為冷卻風扇供電
    發表于 01-09 07:19

    開源發展與開發者專題 | 華為首席開源聯絡官任旭東:秉承開源精神,釋放開源商業與社會價值

    、共贏的合作觀,積極融入全球產業鏈供應鏈,基本構建了規模大、體系全、競爭力較強的產業體系,為開源發展提供了土壤、積蓄了能量、創造了條件。 為了更好地宣傳中國開發者在開源技術領域的貢獻和創新,幫助更多人更充分
    的頭像 發表于 12-30 15:55 ?680次閱讀
    <b class='flag-5'>開源</b>發展與開發者專題 | 華為首席<b class='flag-5'>開源</b>聯絡官任旭東:秉承<b class='flag-5'>開源</b>精神,釋放<b class='flag-5'>開源</b>商業與社會價值

    開源發展與開發者專題 | 潤和軟件副總裁劉洋:擁抱開源時代,潤和軟件開源實踐

    、共贏的合作觀,積極融入全球產業鏈供應鏈,基本構建了規模大、體系全、競爭力較強的產業體系,為開源發展提供了土壤、積蓄了能量、創造了條件。 為了更好地宣傳中國開發者在開源技術領域的貢獻和創新,幫助更多人更充分
    的頭像 發表于 12-28 15:55 ?500次閱讀
    <b class='flag-5'>開源</b>發展與開發者專題 | 潤和軟件副總裁劉洋:擁抱<b class='flag-5'>開源</b>時代,潤和軟件<b class='flag-5'>開源</b>實踐

    邊緣計算平臺開源框架有哪些類型

    邊緣計算平臺開源框架是指基于邊緣計算概念開發的開源軟件框架,用于構建和管理邊緣計算平臺。這些框架提供了一套工具和技術,用于將計算和存儲資源推向網絡邊緣,以便更快、更可靠地處理數據和執行計算任務。下面
    的頭像 發表于 12-27 15:17 ?1306次閱讀

    開源發展與開發者專題 | 平凱星辰聯合創始人崔秋——自主開源,場景驅動:TiDB 構建多元化的數據技術生態

    、共贏的合作觀,積極融入全球產業鏈供應鏈,基本構建了規模大、體系全、競爭力較強的產業體系,為開源發展提供了土壤、積蓄了能量、創造了條件。 為了更好地宣傳中國開發者在開源技術領域的貢獻和創新,幫助更多人更充分
    的頭像 發表于 12-24 15:15 ?700次閱讀
    <b class='flag-5'>開源</b>發展與開發者專題 | 平凱星辰聯合創始人崔秋——自主<b class='flag-5'>開源</b>,場景驅動:TiDB <b class='flag-5'>構建</b>多元化的數據技術生態
    主站蜘蛛池模板: 国产精品一区二区AV97| 99热在线免费观看| 伊人久久大香线蕉影院95| 在线综合 亚洲 欧美| 1788福利视频在视频线| 99久久久免费精品免费| 宝贝你骚死哥了好爽| 国产精品VIDEOSSEX久久发布| 国产精品人妻无码免费A片导航| 国拍自产精品福利区| 久久精品热在线观看85| 免费啪视频观试看视频| 日本漫画之无彩翼漫画| 亚洲国产成人精品久久久久| 在线观看a视频| 被爽到叫呻呤视频免费视频| 国产人妻777人伦精品HD| 久久久久毛片免费观看| 欧美一区二区三区播放| 挺进老师的紧窄小肉六电影完整版 | 久久久精品久久久久特色影视 | 国内精品视频一区二区在线观看| 精品无码无人网站免费视频| 女人爽到高潮嗷嗷叫视频| 手机看片国产免费| 一个人免费视频在线观看高清频道 | 深喉吞精日本| 一二三四免费中文在线1| xxxx美国老师1819| 国产在线观看成人免费视频| 妺妺窝人体色WWW偷窥女厕| 午夜视频在线观看国产| 51成人精品午夜福利AV免费七| 国产成人精品三级在线| 久久综合色一综合色88| 我就去色色| 97色香蕉在线| 国产色精品久久人妻无码看片| 男人把女人桶到高潮嗷嗷叫| 性奴公司 警花| FREE性丰满白嫩白嫩的HD|