今天早上，Maxim Integrated發(fā)布了其最新產(chǎn)品，一種低功耗NN加速器芯片，希望將AI推向邊緣。我們采訪了Maxim Integrated Micros，安全和軟件業(yè)務(wù)部執(zhí)行總監(jiān)Kris Ardis，以獲取詳細信息。

人工智能和物聯(lián)網(wǎng)似乎是天造地設(shè)的一對，但要完美結(jié)合這兩種技術(shù)還需要克服許多障礙。通常，物聯(lián)網(wǎng)是一種低功耗，電池供電的技術(shù)。另一方面，人工智能，特別是卷積神經(jīng)網(wǎng)絡(luò)（對于機器視覺來說是必不可少的），在計算上非常昂貴。

邊緣計算可提供實時數(shù)據(jù)處理。圖片由計算理論提供

為了克服這些挑戰(zhàn)，通常的做法是將計算卸載到云中。但是，這帶來了大量延遲和安全性問題。例如，無人駕駛汽車需要盡快做出實時決策。它根本承受不起等待數(shù)據(jù)發(fā)送到云，進行計算并返回的費用。

但是嵌入式設(shè)備呢？Maxim Integrated Micros，安全性和軟件業(yè)務(wù)部執(zhí)行總監(jiān)Kris Ardis認為，目前，小型嵌入式設(shè)備“沒有進行AI革命的其余部分”。

“他們看不到也聽不到，這比簡單的單詞要多得多，” Ardis解釋說。“這就是我們要填補的空白：我們?nèi)绾尾拍軐⒏嗟腁I承諾帶入嵌入式世界？”

一種新的解決方案：Maxim Integrated的NN加速器芯片

為了回答這個問題，Maxim Integrated轉(zhuǎn)向了用于人工智能的低功耗，高性能芯片。今天早上，該公司宣布了其最新產(chǎn)品：神經(jīng)網(wǎng)絡(luò)加速器芯片，旨在在電池供電的IoT設(shè)備中實現(xiàn)AI。

新芯片MAX78000包括兩個超低功耗內(nèi)核-ArmCortex-M4內(nèi)核或RISC-V內(nèi)核-一個基于FPU的微控制器和一個卷積神經(jīng)網(wǎng)絡(luò)加速器。Ardis評論說：“ RISC-V在那里，因為它是一種在進入加速器之前必要時對數(shù)據(jù)進行按摩的低功耗方法。”

從性能的角度來看，Maxim聲稱具有一些令人印象深刻的規(guī)格，特別是在功耗和延遲方面。

MAX78000的簡化框圖。圖片由Maxim Integrated提供

關(guān)于能源，該公司表示MAX78000提供：

• 運行MNIST時的能耗降低1100倍

• MNIST的延遲提高了400倍

• 與低功耗Cortex M4F相比，關(guān)鍵字發(fā)現(xiàn)期間的能耗低600倍

• 與96 MHz Cortex M4F相比，關(guān)鍵字發(fā)現(xiàn)的效率提高了200倍

讓我們深入研究如何準確地達到這些規(guī)格。

MAX78000的核心：神經(jīng)網(wǎng)絡(luò)加速器

此SoC中最獨特的功能是神經(jīng)網(wǎng)絡(luò)加速器，它是專用硬件，旨在最大程度地減少卷積神經(jīng)網(wǎng)絡(luò)（CNN）的能耗和等待時間。

根據(jù)Ardis的說法，所采用的體系結(jié)構(gòu)是完全專有和新穎的。它的設(shè)計目標是最大程度地減少數(shù)據(jù)移動，眾所周知，這是對片上能量的巨大負擔，尤其是在處理CNN鏈中的復雜數(shù)學配置時。

此外，該加速器（支持TensorFlow和Pytorch等機器學習領(lǐng)域中的常用工具）旨在提高數(shù)學并行度，優(yōu)化能源消耗并顯著減少推理時間。

重要功能塊概述。圖片由Maxim Integrated提供

系統(tǒng)操作的另一個特征是微控制器的介入最少。一般而言，此架構(gòu)中的MCU用于配置網(wǎng)絡(luò)，加載數(shù)據(jù)并啟動它。MCU完成其最初的工作后，它基本上就擺脫了阻礙。事實證明，這對于提高能源效率也極為重要。

該設(shè)備還可以在執(zhí)行之前加載數(shù)據(jù)，從而消除了在推理過程中訪問內(nèi)存的需求，從而降低了能耗并改善了延遲。Ardis說：“不需要外部存儲器，這實際上是我們節(jié)省能源的方法之一。所有存儲器都在芯片上。”

物聯(lián)網(wǎng)的游戲規(guī)則改變者？

隨著對低功耗，高性能AI芯片的需求不斷增加，這一消息在IoT領(lǐng)域似乎極為重要。

新的NN加速器的描述。圖片由Maxim Integrated提供

根據(jù)Maxim Integrated的說法，該設(shè)備可能為系統(tǒng)提供了在邊緣執(zhí)行實時決策的能力（比基于云的計算更快），并且無需擔心安全性。

通過將AI帶到邊緣設(shè)備，該設(shè)備可以啟用新的應(yīng)用程序，例如毫秒之內(nèi)的面部ID或數(shù)據(jù)處理助聽器。這樣，MAX78000可能是“切斷嵌入式設(shè)備電源線”的重要一步。

Ardis表示希望MAX78000能夠朝著“嵌入式革命”的道路邁進，類似于嵌入式旋轉(zhuǎn)微控制器的類型。他說：“在使用微控制器之前，沒有人考慮過微控制器的所有功能。現(xiàn)在，我至少要戴兩個。”

“這就是我們認為邊緣技術(shù)的AI將會變成的東西，希望我們將成為引領(lǐng)潮流的人之一。”