TinyML人工智能算法的運(yùn)行離不開計(jì)算的硬件 - 微控制器（MCU），借助TinyML工具、NPU的硬件加速以及平臺(tái)化的部署，大大提升微控制器（MCU）產(chǎn)品的計(jì)算效能，為人工智能應(yīng)用開辟了新的發(fā)展市場(chǎng)。眾多微控制器廠商的共同參與，也為市場(chǎng)提供了更多更具創(chuàng)新的產(chǎn)品或解決方案。這也將為“兼容機(jī)”時(shí)代的微控制器（MCU）帶來了新的發(fā)展機(jī)遇，必將會(huì)開啟新一個(gè)賽道。

AI正在推動(dòng)邊緣更加智能化，而邊緣設(shè)備也讓AI無(wú)處不在?？梢灶A(yù)見，未來十年，AI將成為推動(dòng)MCU市場(chǎng)增長(zhǎng)的主要力量。隨著AI深入到邊緣和終端裝置，邊緣計(jì)算的發(fā)展成為推動(dòng)全球MCU市場(chǎng)增長(zhǎng)的主要趨勢(shì)之一。以前的AI運(yùn)算和機(jī)器學(xué)習(xí)主要在云端完成，但現(xiàn)在它們正在逐漸向邊緣端發(fā)展。而邊緣AI并不會(huì)止步于手機(jī)、電腦這些具備SoC級(jí)別算力的終端，而是會(huì)繼續(xù)向著MCU為主控的物聯(lián)網(wǎng)設(shè)備蔓延。隨著AI在邊緣的落地，硬件CNN在端側(cè)MCU的集成已經(jīng)成為一種技術(shù)趨勢(shì)。

微控制器（MCU）廠商并購(gòu)人工智能公司布局TinyML

• 2021年5月，意法半導(dǎo)體收購(gòu)邊緣AI軟件專業(yè)開發(fā)公司Cartesiam
• 2022 年 7 月，瑞薩電子收購(gòu)了嵌入式AI解決方案優(yōu)秀供應(yīng)商Reality Analytics, Inc.（Reality AI）
• 2023 年 5 月 ，英飛凌宣布已收購(gòu)TinyML初創(chuàng)企業(yè)Imagimob公司
• 2023 年 8 月，Nordic公司宣布收購(gòu)美國(guó)人工智能和機(jī)器學(xué)習(xí)公司Atlazo

BTW

ST將推出集成NPU的STM32N6，NXP推出了集成一個(gè)DSP協(xié)處理器和神經(jīng)處理單元(NPU)的MCX產(chǎn)品組合，Microchip提供 MPLAB 機(jī)器學(xué)習(xí)開發(fā)套件來提升其產(chǎn)品的機(jī)器學(xué)習(xí)能力。

布局TinyML的路徑

從目前各微控制器（MCU）廠家和業(yè)界的應(yīng)用情況來看，布局TinyML的路徑大致有以下三個(gè)：

TinyML工具

集成神經(jīng)網(wǎng)絡(luò)處理器（Neural Processing Unit，NPU）協(xié)處理器

TinyML平臺(tái)

相對(duì)于大語(yǔ)言模型來說，TinyML 是一種小的或極小規(guī)模的機(jī)器學(xué)習(xí)。TinyML本身是一種軟件算法，是對(duì)數(shù)據(jù)分析和處理的一種計(jì)算處理方法，通過構(gòu)建機(jī)器學(xué)習(xí)模型來進(jìn)行推理，業(yè)界也有一些通用的TinyML機(jī)器學(xué)習(xí)模型。TinyML需要借助軟件和工具對(duì)采集來的數(shù)據(jù)進(jìn)行分析和處理、推理和驗(yàn)證等。在不斷地對(duì)模型進(jìn)行優(yōu)化處理后，還需要將將其轉(zhuǎn)換為微控制器（MCU）這類性能較弱、資源較少的微控制器（MCU）可以運(yùn)行的固件。TinyML工具有助于人工智能的開發(fā)應(yīng)用，讓復(fù)雜的人工智能軟件的開發(fā)變得簡(jiǎn)單快捷。

NPU是一種神經(jīng)網(wǎng)絡(luò)單元，專用于神經(jīng)網(wǎng)絡(luò)的計(jì)算，隨著人工智能應(yīng)用對(duì)計(jì)算資源的需求越來越高、任務(wù)越來越復(fù)雜，對(duì)神經(jīng)網(wǎng)絡(luò)的計(jì)算需求要求也越來越高，微控制器（MCU）中的ALU（算術(shù)運(yùn)算單元AU和邏輯運(yùn)算單元LU）不足以支持復(fù)雜的神經(jīng)網(wǎng)絡(luò)的計(jì)算需求，將NPU硬件化并集成在微控制器（MCU）內(nèi)部作為協(xié)處理器，可以大大提升人工智能應(yīng)用的計(jì)算效率。NPU實(shí)質(zhì)上也是一種專用的硬件計(jì)算單元。

一般地，基于微控制器（MCU）設(shè)計(jì)開發(fā)的產(chǎn)品，其固件可以用幾年，甚至到其生命周期才結(jié)束。固件在其驗(yàn)證穩(wěn)定后一般不再需要更改。隨著產(chǎn)品部署規(guī)模的不斷擴(kuò)大，產(chǎn)品不斷地迭代更新，需要對(duì)微控制器（MCU）中的固件進(jìn)行更新，通過一個(gè)平臺(tái)可以對(duì)設(shè)備進(jìn)行較好的管理和維護(hù)。而TinyML平臺(tái)不僅需要對(duì)固件進(jìn)行迭代升級(jí)，還可以對(duì)數(shù)據(jù)進(jìn)行收集、機(jī)器學(xué)習(xí)模型不斷地進(jìn)行訓(xùn)練，不斷地優(yōu)化模型，使得模型的精度越來越高。另一方面，本地的微控制器（MCU）的計(jì)算資源，不足以支持大量數(shù)據(jù)的存儲(chǔ)和對(duì)模型訓(xùn)練優(yōu)化等任務(wù)。TinyML需要一個(gè)高性能的計(jì)算平臺(tái)來支撐人工智能產(chǎn)品的不斷迭代。

國(guó)內(nèi)MCU廠商大部分仍處于模仿兼容傳統(tǒng)STM32的同質(zhì)化水平，忙于內(nèi)卷比拼價(jià)格，生存還是個(gè)問題，基本上還顧不上未來的布局。

下一個(gè)loT市場(chǎng)將重構(gòu)

根據(jù)loTAnalytics的數(shù)據(jù)，2022年全球活躍的物聯(lián)網(wǎng)設(shè)備連接數(shù)達(dá)到了143億個(gè)，預(yù)計(jì)到2027年數(shù)量將達(dá)到297億個(gè)，年復(fù)合增長(zhǎng)率達(dá)16%。

從通用MCU到IoT MCU，再到具備TinyML特質(zhì)的IoT MCU，微控制器的發(fā)展與整個(gè)消費(fèi)電子設(shè)備的演進(jìn)浪潮緊密相連。單品MCU已經(jīng)不足以滿足當(dāng)下IoT開發(fā)者的需求，選擇一顆MCU即選擇了一個(gè)完整的開發(fā)生態(tài)。

在AIoT時(shí)代，MCU的變化需要兼顧硬件和軟件兩個(gè)方面。

• 在硬件層面，要求更高的處理能力、更多的安全組件、多種連接能力以及更低功耗；
• 在軟件層面，操作系統(tǒng)從任務(wù)調(diào)度發(fā)展為IoT OS平臺(tái)，軟件復(fù)雜度大幅增加，需要平臺(tái)級(jí)軟件及工具；
• 在生態(tài)系統(tǒng)層面，各種云服務(wù)公司進(jìn)入嵌入式系統(tǒng)生態(tài)圈，并且與算法公司、純軟件公司合作增多。

此外，生態(tài)層面的變化也正在拉開大幕。在AIoT時(shí)代，眾多云服務(wù)公司進(jìn)入到嵌入式領(lǐng)域，MCU需要開放API接口等；而且MCU需要與算法公司進(jìn)行合作，以適配實(shí)現(xiàn)高效算力；操作系統(tǒng)層面云服務(wù)廠商的染指也將引發(fā)更多的爭(zhēng)斗。

而無(wú)線模組硬件成本的大幅縮減往往意味著，AIoT行業(yè)正在從拓荒期進(jìn)入成長(zhǎng)期，從小規(guī)模的摸索嘗試轉(zhuǎn)向大規(guī)模的經(jīng)驗(yàn)復(fù)制。這表明AIoT時(shí)代的嵌入式系統(tǒng)由功能型向體驗(yàn)型方向轉(zhuǎn)型，保持高效就需要分工，并要產(chǎn)生聚集效應(yīng)實(shí)現(xiàn)規(guī)?；?。

結(jié)尾：

在人工智能時(shí)代，MCU這個(gè)芯片領(lǐng)域的資深前輩仍然能夠保持其領(lǐng)先地位，展現(xiàn)出歷久彌新的特質(zhì)。在可以預(yù)見的未來，MCU將成為物聯(lián)網(wǎng)邊緣不可或缺的核心組件。我們正在邁入AIoT時(shí)代，AI深入到邊緣和終端裝置，已經(jīng)是一個(gè)長(zhǎng)期必然的大方向。做好技術(shù)準(zhǔn)備國(guó)產(chǎn)廠商方能迎接未來轉(zhuǎn)折窗口的挑戰(zhàn)。

審核編輯 黃宇