作為移動設(shè)備之后的第五波計算浪潮,邊緣計算受到空前關(guān)注。它可以參與到生活的方方面面,包括居家、辦公、城市、工廠等,使智能生活更安全、效率更高。
2020 年,Gartner 將邊緣計算列為十大戰(zhàn)略技術(shù)趨勢之一。Gartner 指出,邊緣計算是一種拓?fù)浣Y(jié)構(gòu),信息處理以及內(nèi)容收集和傳遞被放置在離信息源更近的位置,其核心邏輯是保持流量本地和分布式以減少延遲。
這將包括物聯(lián)網(wǎng)的所有技術(shù)。邊緣賦能將著眼于這些設(shè)備的增長方式并為智能空間奠定基礎(chǔ),并使關(guān)鍵應(yīng)用和服務(wù)更接近使用它們的人員和設(shè)備。根據(jù)預(yù)測,到 2023 年,網(wǎng)絡(luò)邊緣的智能設(shè)備數(shù)量可能是傳統(tǒng) IT 領(lǐng)域的 20 倍以上。
邊緣處理——數(shù)十億量級的藍(lán)海市場
邊緣計算何以實現(xiàn)這樣的增長?恩智浦(NXP)高級副總裁兼邊緣處理事業(yè)部總經(jīng)理 Ron Martino 指出了背后的三大驅(qū)動因素:第一,它能夠降低總體擁有成本,不需要總是進(jìn)行云接入,從而降低本地成本。第二,它可以保護(hù)數(shù)字隱私,提高安全性。第三,它能夠減少應(yīng)用延遲,支持實時應(yīng)用,增強(qiáng)本地體驗質(zhì)量。
隨著邊緣計算與傳統(tǒng)分布式計算架構(gòu)的深度融合,邊緣處理——正在悄然醞釀一場變革。NXP 作為在安全、連接、嵌入式領(lǐng)域耕耘多年的半導(dǎo)體廠商,將如何布局邊緣處理的廣闊市場?又會進(jìn)行哪些變革?
Ron Martino 表示,邊緣處理市場可以看作一個分布式智能金字塔。底部是包括工業(yè)和物聯(lián)網(wǎng)在內(nèi)的應(yīng)用邊緣,其中工業(yè)邊緣包括工廠自動化、基礎(chǔ)設(shè)施、交通運輸、醫(yī)療等,物聯(lián)網(wǎng)邊緣包括智能家居、消費及可穿戴領(lǐng)域,這是邊緣處理規(guī)模最大的、十億量級的大市場;中部是網(wǎng)絡(luò)邊緣,主要支持 5G 本地網(wǎng)絡(luò)及數(shù)據(jù)集成,是一個千萬到億級的市場;最頂部則是數(shù)據(jù)中心,以云服務(wù)為主,大約是百萬量級。對邊緣處理的布局,NXP 的應(yīng)用主要包括三大類:網(wǎng)絡(luò)邊緣、工業(yè)邊緣、物聯(lián)網(wǎng)邊緣,也就是金字塔底部和腰部規(guī)模最大的兩塊。
機(jī)器學(xué)習(xí)入侵邊緣處理
幾年前,人們普遍認(rèn)為機(jī)器學(xué)習(xí)、深度學(xué)習(xí)只能通過由網(wǎng)關(guān)、邊緣服務(wù)器或數(shù)據(jù)中心執(zhí)行的邊緣訓(xùn)練和推理,在高端硬件上完成。如今,情況已然發(fā)生了變化,處理器不必提供每秒數(shù)萬億次操作(TOPS),也能執(zhí)行機(jī)器學(xué)習(xí),只要使用帶有嵌入式機(jī)器學(xué)習(xí)加速器的微控制器,就能在邊緣設(shè)備上進(jìn)行機(jī)器學(xué)習(xí)。
內(nèi)置機(jī)器學(xué)習(xí)加速器的微控制器代表著物聯(lián)網(wǎng)的下一階段:在生產(chǎn)數(shù)據(jù)的源頭,例如麥克風(fēng)、攝像頭和監(jiān)控其他環(huán)境條件的傳感器中引入智能計算,只需極低的成本和極低的功耗,這些設(shè)備就能出色地完成機(jī)器學(xué)習(xí),僅在絕對必要時才連接到云。
目前,機(jī)器學(xué)習(xí)在邊緣計算中的應(yīng)用已經(jīng)比較普遍,有 55%的開發(fā)人員表示他們當(dāng)前或未來工作需要機(jī)器學(xué)習(xí),早期的采納者已經(jīng)開始探索更有意義的用例,未來則會被越來越多的開發(fā)者接受,也將使得機(jī)器學(xué)習(xí)的開發(fā)鴻溝得以消弭。
在 NXP 看來,在嵌入式開發(fā)中引入機(jī)器學(xué)習(xí),當(dāng)務(wù)之急是讓更多的開發(fā)者用起來。NXP 與 Au-zone 合作開發(fā)機(jī)器學(xué)習(xí)工具包,并與 Arm 合作,使 Arm Ethos-U65 microNPU 提供可擴(kuò)展且高性能的機(jī)器學(xué)習(xí)用例。通過合作,加強(qiáng) NXP 對 eIQ 機(jī)器學(xué)習(xí)開發(fā)環(huán)境的支持,幫助用戶部署優(yōu)化機(jī)器學(xué)習(xí)的模式,并且在全球范圍內(nèi)優(yōu)化機(jī)器學(xué)習(xí)能力,直到 MCU 的層級。
不過,機(jī)器學(xué)習(xí)在嵌入式端具體如何實現(xiàn)?畢竟設(shè)備資源受限,對功耗、帶寬、存儲、模型尺寸等都有完全不同的要求。
NXP 邊緣處理事業(yè)部副總裁兼 IoT 業(yè)務(wù)線總經(jīng)理于修杰表示,很多客戶其實都關(guān)心有沒有可能免費在設(shè)計中實現(xiàn)人工智能或機(jī)器學(xué)習(xí),其實指的就是用 CPU 來運行。NXP 的 eIQ 工具可以部署類似這種模式,例如在家居場景中,由于人是交互對象,因此在推理方面需求不高,在機(jī)器學(xué)習(xí)方面就無需購買加速產(chǎn)品,從而可以降低成本。
此外,微處理器中應(yīng)用處理器和神經(jīng)網(wǎng)絡(luò)加速器的發(fā)展速度十分迅猛,更完善的解決方案也層出不窮。總體趨勢是將更多以人工智能為中心的功能(例如神經(jīng)網(wǎng)絡(luò)處理)與應(yīng)用處理器一起整合到微處理器中,同時避免功耗或尺寸顯著增加。
不過,目前尚處于機(jī)器學(xué)習(xí)發(fā)展的早期,會有很多迭代和戰(zhàn)略微調(diào)。他強(qiáng)調(diào),機(jī)器學(xué)習(xí)和人工智能應(yīng)用,在選擇處理器方面不可能做到一刀切,取決于市場對于應(yīng)用的需求和對功耗、成本的容忍度,每種技術(shù)都能找到自己適用和擅長的領(lǐng)域,因此未來還有很大的繼續(xù)創(chuàng)新的空間。NXP 將通過可擴(kuò)展的處理器,支持從簡單到復(fù)雜的機(jī)器學(xué)習(xí)用例。
EdgeVerse 是 NXP 的邊緣處理平臺,通過嵌入式處理產(chǎn)品組合,結(jié)合安全、軟件和整體解決方案來加速邊緣計算。具體包括 MCU、跨界處理器、應(yīng)用處理器以及高端微處理器等多系列的產(chǎn)品組合。其適用范圍較為廣泛,據(jù) Ron Martino 介紹,可覆蓋新基建七大重點領(lǐng)域中的六個,如 AI、工業(yè)互聯(lián)網(wǎng)、城際交通、5G、數(shù)據(jù)中心、新能源汽車充電。
邊緣賦能下,嵌入式計算將如何演進(jìn)?
混合計算架構(gòu)成為邊緣計算迅速融入物聯(lián)網(wǎng)多種多樣應(yīng)用中的一個趨勢,跨界 MCU——就是 NXP 順應(yīng)這一趨勢的創(chuàng)新。所謂“跨界”,是指介于常規(guī)的 MPU 與 MCU 之間,采用了 MCU 的內(nèi)核,但基于 MPU 的架構(gòu),因此既能實現(xiàn) MPU 的高性能和豐富功能,同時又兼具傳統(tǒng) MCU 的易用性、低功耗、低成本的特性,從而打破了 MPU 和 MCU 之間的界限。
Ron Martino 指出,機(jī)器學(xué)習(xí)已經(jīng)出現(xiàn)約 20 年了,一旦發(fā)布一款芯片,人們就會嘗試在處理引擎上運行各類計算,不論是 DSP、CPU 還是 GPU,隨著高集成度的出現(xiàn),在產(chǎn)品中使用這些計算密集型神經(jīng)網(wǎng)絡(luò)也成為可能。在軟件層面,整個協(xié)議棧到軟件和應(yīng)用層,也必須從機(jī)器學(xué)習(xí)的角度對許多方面進(jìn)行評估。而更重要的是用戶體驗,需要找到他們真正想解決的問題。這就使得當(dāng)前對于機(jī)器學(xué)習(xí)的用例優(yōu)化非常重要,通過硬件 IP 與軟件相結(jié)合,真正解決終端應(yīng)用需求。
“邊緣計算有著廣泛的可能性,無論是性能還是能力,因此可擴(kuò)展的解決方案具有更大的價值,它能夠充分挖掘邊緣計算的能力,這也需要非常廣泛的器件組合,在滿足軟件方面要求的同時又能夠兼顧平臺的效率”,Ron Martino 強(qiáng)調(diào),“安全也越來越重要,隨著接入點的增多,產(chǎn)生了非常多的關(guān)鍵數(shù)據(jù),安全性和不斷集成的功能已經(jīng)成為極為重要的因素,也成為嵌入式計算不斷演進(jìn)的關(guān)鍵因素。”
至于嵌入式計算會如何演進(jìn)?他表示,這些年來嵌入式計算的關(guān)鍵指標(biāo)從頻率、單線程性能一直到具有很多計算模塊的異構(gòu)計算,能耗效率和成本效益在不斷提升,機(jī)器學(xué)習(xí)功能也會不斷進(jìn)化。在開發(fā)嵌入式計算產(chǎn)品方面不僅要結(jié)合各種計算模塊實現(xiàn)互聯(lián),也需要進(jìn)行軟件的優(yōu)化賦能和硬件的用例優(yōu)化。機(jī)器學(xué)習(xí)和傳統(tǒng)的 CPU 工作負(fù)載有不同,比如內(nèi)存的接入可能會成為一個潛在的瓶頸,另外還需要優(yōu)化它的尺寸,將其作為計算部件的一部分,實現(xiàn)與 CPU 功能及其他功能的協(xié)同,這是涉及系統(tǒng)級優(yōu)化的復(fù)雜過程,需要熟練的制造流程作用于軟件和硬件應(yīng)用,以便真正優(yōu)化性能并降低功耗。
編輯:hfy
-
物聯(lián)網(wǎng)
+關(guān)注
關(guān)注
2909文章
44557瀏覽量
372760 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8406瀏覽量
132561 -
嵌入式計算
+關(guān)注
關(guān)注
0文章
28瀏覽量
14103 -
邊緣計算
+關(guān)注
關(guān)注
22文章
3084瀏覽量
48891
發(fā)布評論請先 登錄
相關(guān)推薦
評論