當前我們討論人工智能(AI)大部分都是講的云端智能,在云端針對數據做訓練、加速,數據處理和決策也是在云端進行。隨著人們對于身邊事物的智能化要求越來越高,尤其是物聯網產業進入規?;涞氐某跗冢嗟臄祿蜎Q策需要在邊緣側進行,也就是我們常說的解決人工智能“最后一公里”的問題。
邊緣智能處理的優勢在于減少延遲,全網絡覆蓋,增加了隱私和安全性,并減少了與云端的通信,從而降低了成本。芯片的Ensigma系列IP產品,以及用于人工智能芯片的神經網絡加速器(NNA)IP產品。
Imagination Technologies是全球半導體知識產權(IP)提供商,其核心產品包括用于各種數字消費性電子產品和系統所用芯片的PowerVR圖形處理器(GPU)IP產品、用于物聯網連接在GTIC 2019全球AI芯片創新峰會上,Imagination Technologies視覺及AI部門高級總監 Andrew Grant指出,采用神經網絡加速能夠賦能邊緣智能部署。
Imagination Technologies視覺及AI部門高級總監
Andrew Grant
神經網絡加速+GPU能夠提供強有力的算力
隨著人工智能和物聯網進程的不斷深入,各種各樣的智能應用對于算力的要求越來越高。當算法完善,數據已經就位的時候,算力已經成為越來越多人工智能實現的痛點。尤其是物聯網時代的邊緣計算,很多數據需要在邊緣側得到及時的處理,并作出決策,對算力提出了更高的要求。Andrew以汽車的自動駕駛為例,每一臺自動駕駛汽車都需要處理攝像頭和雷達等接收到的信息,需要區別車輛、行人(尤其是兒童)、障礙物等,同時需要處理V2X的信息,再加上和云端的互聯互通,汽車實現自動駕駛需要驚人的算力支持。
Andrew更具體地說,ADAS系統如果要達到實現行人預測的能力需要有超過100GFLOPS的算力,實現level 3級別的自動駕駛需要10TOPS的算力,要實現level 5級別的自動駕駛則需要500+TOPS的算力支撐。
因此,在自動駕駛汽車這個需要邊緣智能的代表性產品中,在走向level 5級別自動駕駛的過程中,每一步所需要的算力都很大??梢哉f,足夠的算力是實現邊緣智能的必要條件。
通過多年的投資研發,Imagination Technologies在產品性能方面取得了突破性的進展。2017年9月21日,Imagination Technologies發布了采用專用PowerVR架構來打造的PowerVR Series2NX神經網絡加速器(NNA)IP,此款IP產品可以用在各種人工智能芯片設計之中,并在面積效率、運算性能以及功耗等方面相較于友商產品都有絕對的優勢。
在成功推出PowerVR 2NX NNA IP產品之后,Imagination Technologies在人工智能領域并未停止了腳步。2018年12月,Imagination Technologies在英國和中國同時再次宣布推出其面向更先進人工智能應用的最新神經網絡加速器(NNA)架構PowerVR Series3NX。PowerVR Series3NX是Imagination Technologies專門用于神經網絡計算而設計的硬件加速器。
單個Series3NX內核的性能可從0.6到10萬億次操作/秒(TOPS),同時其多核實現可擴展到160TOPS以上。得益于包括無損權重壓縮等架構性增強,Series3NX架構的性能可在相同的芯片面積上較上一代產品提升40%,使SoC制造商可在性能效率方面提高近60%,且帶寬需求降低了35%。
作為Series3NX架構的一部分,Imagination Technologies還發布了PowerVR Series3NX-F(Flexible)半導體知識產權(IP)配置,以提供前所未有的功能性和靈活性平衡,同時還結合了行業領先的性能。采用Series3NX-F的客戶可以通過OpenCL框架來實現差異化并為其產品增加價值。
在軟件方面,PowerVR工具是成熟并已經商用了的,且有專門的團隊維護,平均每季度更新一次,從而能夠最優化地去映射新興的網絡模型、提供靈活性和性能優化的理想組合。通過使用Imagination Technologies的專用深度神經網絡(DNN)API,開發人員可以輕松地針對Series3NX架構編寫人工智能應用程序,或者擴展實現部分自定義的算法和網絡。
Andrew在介紹中提到,PowerVR Series3NX能夠提供5個獨立的處理核心,能夠更好地保護數據,擁有更好的處理和更好的速度。他強調,PowerVR Series3NX在信息處理、算法兼容和信息安全保護方面,都具有獨特的優勢。
神經網絡加速+GPU有足夠的靈活性
未來的時代,是人工智能賦能一切的時代,包括物聯網,也就是我們所說的AIoT。物聯網碎片化的產品特性意味著對于數據加速處理需要更靈活。從當前的局勢來看,鮮有產品能比GPU在數據加速和深度學習訓練方面靈活性更高,且同時提供很高的算力。
Andrew表示,GPU+神經網絡加速是賦能邊緣智能最好的解決方案。
他指出,GPU是完全靈活的,能夠提供用于Compute、Float和INT支持的標準化API;而神經網絡加速應對不同的行業擁有很好的靈活性,同時能夠實現更低功耗。
Andrew補充說,神經網絡具有高的帶寬和計算,需要專用架構解決這兩個問題。成本效率是現代SoC設計中的一個重要因素,PowerVR NNA能夠在每mm2提供最佳性能。
在Series3NX上,Imagination Technologies擁有豐富的解決方案,可以應用于安防、運動攝像頭、智能手機、汽車、AR/VR、無人機等眾多領域。
2017年,中國的私人資本Canyon Bridge出手5.5億英鎊(約49億元人民幣)收購了Imagination Technologies,這家GPU開放商目前是中資背景。而中國是人工智能和物聯網共同的熱土,對于邊緣智能實現的需求也更為迫切,相信Imagination Technologies能夠憑借強大的產品陣容借助這波熱潮,取得不錯的市場成績。
-
gpu
+關注
關注
28文章
4752瀏覽量
129057 -
人工智能
+關注
關注
1792文章
47409瀏覽量
238924
原文標題:給人工智能業者的方法論:如何賦能邊緣智能?
文章出處:【微信號:Imgtec,微信公眾號:Imagination Tech】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論