資料介紹
近年來,依托電子芯片技術的發展,神經網絡的結構被設計得更深更大,以應對更加復雜和抽象的場景。隨之而來的問題是深府神經網絡在訓練和推理都依托大規模的浮點運算實現,對存儲資源的占用和設備功耗的需求產生了很高的需求。基于傳輸觸發架構(TransportTriggered Architecture,TTA)的專用指令集處理器(ApplicationSpecific Instruction Set Processor,ASIP)既能夠提供專用集成電路級別的高性能和低功耗,又能夠提供處理器級別的指令集靈活性,是解決該問題的途徑之一。
量化與加速是深度神經網絡硬件實現時常用的兩項技術,卷積神經網絡是最有代表性和最通用的深度神經網絡。本文的主要工作即圍繞這兩項技術,進行面向TTA架構ASIP設計的卷積神經網絡的優化,具體內容包含以下兩個部分:
其一,本文針對基于TTA架構的神經網絡ASIP的需求,提出了一套端到端完整的8比特量化方案。該方案結合權重、激活值和梯度的各自特點,為它們制定了相應的量化策略,包括了對稱仿射的權重量化、帶動態上限的激活值量化、變精度的梯度量化以及一種近似的批量歸一化算法。在多數據集、多模型結構的實驗中,該方案都取得了與全精度網絡相當的精度,領先于部分當下常用的量化方案。
其二,本文將查找表資源融入到卷積運算中,提出了一種基于乘法結合律的卷積運算的加速方案。該方案針對面向TTA架構的量化卷積功能單元,提供了符合量化卷積特性的卷積核分塊、循環展開、數據交換規則,并展示了基于TTA架構的神經網絡加速器的整體結構。對比傳統卷積方案,該方案緩解了有限的乘法器資源對于神經網絡并行計算的限制,在并行度與計算能效比兩方面都有所提升。
本文中,量化方案是加速方案的基礎,加速方案是量化方案的補充,二者共同構成了本文的優化工作,為基于TTA架構的深度神經網絡的ASIP實現提供了支持。
- 基于BP神經網絡優化的光伏發電預測模型 35次下載
- 基于神經網絡的優化計算實驗 43次下載
- BP神經網絡基本原理簡介 16次下載
- 3小時學習神經網絡與深度學習課件下載 0次下載
- 深度神經網絡模型的壓縮和優化綜述 20次下載
- 綜述深度神經網絡的解釋方法及發展趨勢 18次下載
- 一種基于多視圖架構的深度卷積神經網絡模型 5次下載
- 神經網絡的方法學習課件免費下載 17次下載
- 基于深度神經網絡的文本分類分析 37次下載
- 神經網絡與神經網絡控制的學習課件免費下載 7次下載
- 神經網絡的基本概念學習課件免費下載 5次下載
- 神經網絡的復習資料免費下載 1次下載
- BP神經網絡的簡單MATLAB實例免費下載 5次下載
- 快速了解神經網絡與深度學習的教程資料免費下載 33次下載
- 《神經網絡和深度學習》中文版電子教材免費下載 0次下載
- 殘差網絡是深度神經網絡嗎 713次閱讀
- 神經網絡優化器有哪些 299次閱讀
- 什么是神經網絡加速器?它有哪些特點? 232次閱讀
- 簡單認識深度神經網絡 721次閱讀
- 深度神經網絡(DNN)架構解析與優化策略 581次閱讀
- 深度神經網絡概述及其應用 334次閱讀
- 深度神經網絡與基本神經網絡的區別 307次閱讀
- 深度神經網絡的設計方法 236次閱讀
- 神經網絡優化算法有哪些 270次閱讀
- 神經網絡架構有哪些 324次閱讀
- 如何訓練和優化神經網絡 262次閱讀
- 詳解深度學習、神經網絡與卷積神經網絡的應用 1574次閱讀
- 深度神經網絡的實現機理與決策邏輯難以理解 2800次閱讀
- 斯坦福探索深度神經網絡可解釋性 決策樹是關鍵 4292次閱讀
- NVIDIA深度神經網絡加速庫cuDNN軟件安裝教程 2222次閱讀
下載排行
本周
- 1電子電路原理第七版PDF電子教材免費下載
- 0.00 MB | 1491次下載 | 免費
- 2單片機典型實例介紹
- 18.19 MB | 95次下載 | 1 積分
- 3S7-200PLC編程實例詳細資料
- 1.17 MB | 27次下載 | 1 積分
- 4筆記本電腦主板的元件識別和講解說明
- 4.28 MB | 18次下載 | 4 積分
- 5開關電源原理及各功能電路詳解
- 0.38 MB | 11次下載 | 免費
- 6100W短波放大電路圖
- 0.05 MB | 4次下載 | 3 積分
- 7基于單片機和 SG3525的程控開關電源設計
- 0.23 MB | 4次下載 | 免費
- 8基于AT89C2051/4051單片機編程器的實驗
- 0.11 MB | 4次下載 | 免費
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 2PADS 9.0 2009最新版 -下載
- 0.00 MB | 66304次下載 | 免費
- 3protel99下載protel99軟件下載(中文版)
- 0.00 MB | 51209次下載 | 免費
- 4LabView 8.0 專業版下載 (3CD完整版)
- 0.00 MB | 51043次下載 | 免費
- 5555集成電路應用800例(新編版)
- 0.00 MB | 33562次下載 | 免費
- 6接口電路圖大全
- 未知 | 30320次下載 | 免費
- 7Multisim 10下載Multisim 10 中文版
- 0.00 MB | 28588次下載 | 免費
- 8開關電源設計實例指南
- 未知 | 21539次下載 | 免費
總榜
- 1matlab軟件下載入口
- 未知 | 935053次下載 | 免費
- 2protel99se軟件下載(可英文版轉中文版)
- 78.1 MB | 537793次下載 | 免費
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420026次下載 | 免費
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234313次下載 | 免費
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費
- 6電路仿真軟件multisim 10.0免費下載
- 340992 | 191183次下載 | 免費
- 7十天學會AVR單片機與C語言視頻教程 下載
- 158M | 183277次下載 | 免費
- 8proe5.0野火版下載(中文版免費下載)
- 未知 | 138039次下載 | 免費
評論
查看更多