Deep Vision 是一家致力于為邊緣計(jì)算解決方案打造人工智能推理芯片、成立至今已有六年的初創(chuàng)企業(yè)。該公司宣布推出了全新的 ARA-1 處理器,有望在低延遲、高效能、以及計(jì)算性能之間找到合適的平衡。Deep Vision 表示,該芯片可在相機(jī)傳感器、到成熟的邊緣計(jì)算服務(wù)器等領(lǐng)域發(fā)揮重要的作用。
采用 M.2 接口封裝的 Deep Vision AI 處理器產(chǎn)品
得益于在實(shí)時(shí)視頻分析方面的實(shí)力,該芯片主要面向智能零售領(lǐng)域的解決方案,比如無人收銀的商店、智能城市、工業(yè) 4.0 / 機(jī)器人等領(lǐng)域。
此外該公司海域汽車行業(yè)的供應(yīng)商合作,主要圍繞自動(dòng)駕駛之外的車內(nèi)監(jiān)測(cè),以避免駕駛員分心或疲勞駕駛。
據(jù)悉,Deep Vision 由首席技術(shù)官 Rehan Hameed 和首席架構(gòu)師 Wajahat Qadeer 攜手創(chuàng)立,后又招募了曾在英特爾和閃迪工作過的 Ravi Annavajjhala 作為公司的首席執(zhí)行官。
在斯坦福大學(xué)的博士學(xué)位論文中,Hameed 和 Qadeer 介紹了他們開發(fā)的 Deep Vision 體系架構(gòu)。
采用 U.2 接口封裝的 Deep Vision AI 處理器產(chǎn)品
該架構(gòu)致力于最大程度地減少芯片內(nèi)的數(shù)據(jù)移動(dòng),因而在 AI 工作負(fù)載上具有出色的每瓦特、每美元的性能和效率表現(xiàn)。
不過在推出可用硬件之前,Deep Vision 很早就將精力集中到了構(gòu)建自家的編譯器上,以確保該公司的解決方案可真正滿足客戶需求,然后才完成最終的芯片設(shè)計(jì)。
Rehan Hameed 表示,Deep Vision 特別強(qiáng)調(diào)減少 AI 計(jì)算的延遲,而市面上許多解決方案更樂于宣傳有多高的數(shù)據(jù)吞吐量。
但是該團(tuán)隊(duì)認(rèn)為,在邊緣解決方案中,低延遲是一項(xiàng)更重要的性能指標(biāo)。相比之下,吞吐量只有在數(shù)據(jù)中心等領(lǐng)域才顯得有意義。
Deep Vision 首席技術(shù)官 Rehan Hameed 解釋稱,那些追求數(shù)據(jù)吞吐量的架構(gòu),要求加速器同時(shí)來處理大量的數(shù)據(jù)流(無論是通過批處理、還是管道執(zhí)行),以充分發(fā)揮硬件的性能。
然而這也是競(jìng)爭(zhēng)方案獲得高吞吐量的唯一途徑,且這么做會(huì)導(dǎo)致單個(gè)任務(wù)的延遲相當(dāng)高,使之難以在更側(cè)重于實(shí)時(shí)性能的邊緣用例中發(fā)揮作用。
值得一提的是,Deep Vision 宣稱其 AI 處理器的延遲要遠(yuǎn)低于谷歌 Edge TPU 和 Movidius 的 MyriadX 方案。
除了通過硬件架構(gòu)優(yōu)化來將芯片上的數(shù)據(jù)移動(dòng)降至最低,還利用軟件層面的工作負(fù)載優(yōu)化,來改善架構(gòu)內(nèi)的整體數(shù)據(jù)流動(dòng)。
責(zé)任編輯:haq
-
芯片
+關(guān)注
關(guān)注
456文章
50970瀏覽量
425056 -
AI
+關(guān)注
關(guān)注
87文章
31160瀏覽量
269550 -
人工智能
+關(guān)注
關(guān)注
1792文章
47446瀏覽量
239073
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論