（文章來源：OFweek）

隨著許多嵌入式系開始變得智能且自主，以人工智能（AI）神經網絡為導向的嵌入式系統市場即將起飛，神經網絡加速器大戰一觸發。嵌入式神經網絡加速器市場持續升溫，從智能音箱、無人機到智能燈泡等越來越多的系統準備在本地執行神經網絡，以取代傳送至云端進行運算的途徑。

英特爾旗下子公司Movidius在上周推出了一款采用USB外形的獨立式人工智能（AI）加速器。 El－Ouazzane說，這款名為Movidius神經運算棒（Neural Compute Stick）的AI加速器設計，可輕松簡單地插入Raspberry Pi或X86 PC，讓大學研究人員、獨立軟件開發人員與程序增補人員易于為嵌入式系統進行編譯、調整以及加速深度學習應用。

Movidius在去年秋天被英特爾收購后，如今已成為英特爾新技術部門的一部份。 Movidius之前曾經開發出業界首款視覺處理器——Myriad 2 VPU。 如今，El－Ouazzane表示，推出這款運算棒的最終目標在于讓Movidius VPU成為可在邊緣執行神經網絡的參考架構。盡管目標遠大，但業界分析師隨即指出，Movidius Myriad 2 VPU當然不是嵌入式系統中可在邊緣執行神經網絡的唯一選擇。

Tirias Research首席分析師Jim McGregor表示：從技術上來看，您可以使用任何具有處理組件的開發板，并用于執行一種模型。 例如機器學習（Machine learning）／AI模型已經執行于各種廣泛的處理器和SoC了，特別是針對行動領域。高通（Qualcomm）以Snapdragon系列實現的影像辨識可說是最佳的例子。 高通從Snapdragon 820開始采用自家開發的模型，McGregor說：Snapdragon基本上就是推理引擎。

具有平行處理組件（如GPU、DSP和FPGA）的處理解決方案非常適于作為推理引擎。 McGregor解釋說，許多正在開發中的客制化芯片解決方案都采用可內建于SoC的DSP或FPGA。Linley Gwennap首席分析師Linley Gwennap對此表示贊同。 他在最近出刊的《微處理器報告》（Microprocessor Report）中寫道：高通、蘋果（Apple）和英特爾（Movidius）都在打造一種新的產品類別：神經加速器。

Gwennap解釋說，對于這些以客戶端為基礎的加速器需求來自于要求極低延遲的自動駕駛車。 Gwennap在該報告的評論中指出，在本地進行處理的新技術將會開始滲透至一些較低成本的應用。 他預測，在消費裝置中，小型的神經加速器可能是SoC中的一個重要區塊，就像是繪圖核心或圖像處理器一樣。 幾家知識產權（IP）供貨商開始提供這一類加速器，期望盡可能地降低額外的硬件成本。

Gwennap在的訪談中指出，Movidius Neural Compute Stick對于開發人員幾乎沒有什么不同。對于開發人員來說，這并沒什么不起。 典型的PC就能產生至少100GFLOPS，特別是如果它還內建繪圖卡，直接在PC上進行開發會更好。 對于需要較低功率處理器的嵌入式系統，高通Snapdragon 835提供超過250GOPS的效能，對于大多數的推理應用來說都夠了。

不過，Movidius的El－Ouazzane并不贊同這樣的看法。首先，Movidius Neural Compute Stick利用USB讓神經網絡更易于存取，有利于制造商或程序增補人員用于開發深度神經網絡原型或進行調整。其次是電源效率的問題。 El－Ouazzane指出，Movidius的解決方案可讓神經網絡在邊緣運算時旳功耗小于2瓦（W）。

然后，還有成本的考慮。 El－Ouazzane說：我認為這是一個殺手級因素。 Movidius Neural Compute Stick要價79美元，可望讓神經網絡的發展變得超級普遍。他預期開發人員能使用Movidius的神經運算平臺（Neural Compute Platform）應用程序編程接口（API），將經過訓練的Caffe、前饋卷積神經網絡（CNN）輸入工具套件中，并進行配置，然后編譯成一種可用于嵌入式部署的調整版本。

（責任編輯：fqj）