Hot Chips——世界處理器行業的技術峰會,ARM、Intel、NVIDIA、微軟等巨頭的舞臺。今年,一家來自于中國的深度學習創業公司得到了全世界處理器行業專家的認可,登上了Hot Chips的演講臺,向全世界介紹兩項最新的針對于深度學習的DPU核心體系結構設計——針對于卷積神經網絡(CNN)的Aristotle架構和針對于稀疏深度神經網絡(DNN)與循環神經網絡(RNN)的Descartes架構。這所公司正是深鑒科技,而深鑒科技及CEO姚頌,也成為了Hot Chips歷史上最年輕的公司與最年輕的主講人。深鑒科技的報告榮獲本屆Hot Chips的Best Presentation殊榮。
歷史悠久的處理器行業技術峰會Hot Chips已經走過了28年。芯片架構設計領域每年都涌現大量新生代,但其中只有約20款最新的處理器架構設計能夠在這個平臺進行展示,這使得該峰會成為世界芯片巨頭的必爭之地,每年的發表席位大多被ARM、高通、Intel、AMD等處理器巨頭占據。Hot Chips會議每年夏天在美國加州舉辦,今年會議地點則選在了位于Cupertino的Flint Center,而該中心之前也長期用于蘋果公司各項發布會。就在今年的峰會上,微軟首次公開了為Hololens設計的HPU處理器;NVIDIA則公開了下一代Tegra系列SoC。
得益于深鑒創始人團隊在深度學習硬件加速領域的深厚積累與公司卓越的技術實力,深鑒得到各大巨頭公司的一致認可。這家Hot Chips史上最年輕的公司,在會上展示了其核心技術,身為深鑒CEO的姚頌也成為了Hot Chips史上最年輕的主講人。姚頌提到,深度學習專用處理平臺必須適應最新的算法,如CNN中卷積核越來越小、LSTM中的矩陣尺寸越來越大。而深鑒之所以選擇FPGA作為其DPU的載體,正是因為其允許較短的TTM(Time To Market)與架構的迭代,同時能夠提供合適的性能與功耗、較高的片上存儲帶寬。
姚頌在Hot Chips做主題演講
姚頌介紹了深鑒已經實現的一鍵編譯技術。首先,對于神經網絡層面進行深度壓縮,去除算法連接關系上的冗余;之后,再進行數據量化,去除單個數值在精度要求上的冗余;最后,根據深鑒設計的Aristotle與Descartes架構指令集,當對神經網絡模型進行編譯,而不進行重新訓練時,僅需要半分鐘即可完成從算法模型到可執行指令的全套編譯流程。
在此次Hot Chips會議上,姚頌也首次公開了公司所設計的兩款深度學習專用處理架構:針對于CNN的Aristotle架構,以及針對于稀疏DNN/RNN-LSTM的Descartes架構。
Aristotle架構專為基于CNN的深度學習應用設計,為小尺寸卷積核優化,高效支持1x1,3x3等卷積操作;支持卷積、Pooling、ReLU、Concat、Batch Normalization等多種層,不限制網絡層數、規模;支持R-FCN等多種物體檢測框架;Aristotle搭載于Zynq 7020 FPGA上,可取得比NVIDIA Tegra K1 GPU好一個數量級的能效比;如果映射到相應的芯片工藝上,毫無疑問可以取得進一步明顯的能效提升。Aristotle架構可以廣泛應用于無人機、安防監控、機器人、自動駕駛等圖像相關的各大領域中。
姚頌介紹深鑒Aristotle架構
Descartes架構則專為稀疏DNN/RNN-LSTM設計,支持LSTM中多個矩陣操作的復雜調度,支持各種稀疏率、矩陣尺寸,以及多種非線性函數,搭載與KU系列FPGA,可以實現比GPU超過一個數量級的能效提升,可以廣泛用于語音識別、翻譯、OCR等多種應用領域。
姚頌介紹Descartes架構
會場之外,深鑒科技創始人之一、首席科學家韓松也被邀請進行Poster展示,深鑒科技團隊也在Poster Session展示了Live Demo供參會專家體驗點評。深鑒團隊場內的報告與場外展示的呼應,也成為了本屆Hot Chips的一大亮點。
值得一提的是,姚頌也在會上首次介紹了基于Aristotle架構的深度學習處理平臺“雨燕”,該平臺將在10月實現批量供貨?!坝暄唷逼脚_基于Xilinx Zynq FPGA,支持各類神經網絡、多種物體檢測框架,并且集成了HOG、KCF等物體追蹤常用模塊,能夠廣泛用于無人機、機器人、ADAS等領域。這也代表著深度學習專用處理平臺真正從學術走向了市場。世界,向深度學習無處不在的時代,又邁近了一步。
基于Aristotle架構的“雨燕”深度學習處理平臺
-
循環神經網絡
+關注
關注
0文章
38瀏覽量
3024 -
深度神經網絡
+關注
關注
0文章
62瀏覽量
4611 -
深鑒科技
+關注
關注
0文章
36瀏覽量
5554
發布評論請先 登錄
相關推薦
Best Sound用戶手冊
Spire.Cloud.Presentation說明

摩爾斯微電子榮獲2024年WBA行業大獎最佳Wi-Fi創新獎等多項殊榮
NVIDIA 在 Hot Chips 大會展示提升數據中心性能和能效的創新技術

小米集團榮獲《機構投資者》“2024年亞洲最佳管理團隊”多項殊榮
華寶新能榮獲廣東省工業設計中心殊榮
TüV萊茵為中興通訊2023可持續發展報告提供獨立性鑒證

維信諾智能像素化ViP技術榮獲Best New Display Component獎
美格智能榮獲銳明技術“戰略協同獎”殊榮
合作共贏 邁向全球|美格智能榮獲銳明技術“戰略協同獎”殊榮
匯川技術榮獲“2023中國自動化領域年度企業”殊榮

評論