三張圖
在Xilinx官網找資料無意中在應用—>AI推斷加速中看到了下面三張圖,頓覺“眾里尋他千百度,驀然回首,那人卻在燈火闌珊處”的意思了。三張圖非常通俗易懂的介紹了FPGA/ACAP這樣的體系結構在AI推理中的優勢。
1. CPU/GPU實現中為了達到高吞吐量高性能,必須(要一次輸入足夠多的數據,但這會因為數據的準備和同步而增加延時)從而導致只能在高吞吐量或低延時中選擇其一。
2. FPGA/ACAP 覆蓋的應用極其廣泛在IT,CT,OT中都深耕多年,積累的IP和應用也非常豐富。在目前AI滲透到各個行業的時代,通過FPGA的自定義AI加速器可以快速,緊密耦合到已有的應用。同時不僅僅是在AI部分加速,還可以在網絡,存儲等等對應用整體進行加速提高效能。
3. 人工智能/深度學習的模型在快速變化,利用新的Domain Specific Architecture的平臺,可以快速完成新的模型設計,快速完成迭代。
遺珠
無獨有偶,在Apple的開發者大會相關的報道中,當大家在討論iPad OS,驚嘆Mac 價格和配置時,往往漏掉了一則重要的信息,在Mac Pro中,除了CPU, GPU用戶還可以選裝FPGA加速卡,幫助Mac Pro視頻編輯的用戶同時處理3路8K視頻流或者12路4K視頻流。開個小腦洞,也許在未來的某一年,突然發現每個工作站都會配備的FPGA 加速卡,利用FPGA加速特定的應用服務。將來的APP Store中會不會順便賣賣加速的Overlay呢?
編輯:hfy
-
FPGA
+關注
關注
1629文章
21729瀏覽量
603026 -
gpu
+關注
關注
28文章
4729瀏覽量
128897
發布評論請先 登錄
相關推薦
評論