人工智能 | 布局人工智能小模型TinyML 開(kāi)啟微控制器（MCU）新賽道

TinyML是一種微型或小規(guī)模的人工智能技術(shù)，可以在資源受限的微控制器（MCU）上運(yùn)行，具有低延遲、低功耗、低成本等特性，可以實(shí)現(xiàn)關(guān)鍵詞檢測(cè)、異常判斷、物體識(shí)別等人工智能的推理工作。

微控制器（MCU）廠商并購(gòu)人工智能公司布局TinyML

2021年5月，意法半導(dǎo)體收購(gòu)邊緣AI軟件專業(yè)開(kāi)發(fā)公司Cartesiam。

Cartesiam是一家軟件公司，專門(mén)從事人工智能(AI)開(kāi)發(fā)工具研發(fā)，讓基于Arm?的微控制器具有機(jī)器學(xué)習(xí)和推理能力。采用Cartesiam技術(shù)的產(chǎn)品數(shù)量已達(dá)數(shù)十億。公司開(kāi)發(fā)團(tuán)隊(duì)由數(shù)據(jù)科學(xué)家和嵌入式信號(hào)處理專家組成，在開(kāi)發(fā)標(biāo)準(zhǔn)和定制解決方案方面具有豐富的經(jīng)驗(yàn)。NanoEdge?AI Studio是其獲得專利的旗艦解決方案，讓沒(méi)有AI知識(shí)背景的嵌入式系統(tǒng)設(shè)計(jì)人員也可以快速開(kāi)發(fā)專用的軟件庫(kù)，將機(jī)器學(xué)習(xí)算法直接集成到各種應(yīng)用系統(tǒng)。含有Cartesiam技術(shù)的設(shè)備已經(jīng)在全球量產(chǎn)，包括物聯(lián)網(wǎng)設(shè)備、家用電器和工業(yè)設(shè)備。

2022 年 7 月，瑞薩電子收購(gòu)了嵌入式AI解決方案優(yōu)秀供應(yīng)商Reality Analytics, Inc.（Reality AI），成為了瑞薩電子的間接全資子公司。

Reality AI是一家美國(guó)公司，為汽車、工業(yè)和消費(fèi)類產(chǎn)品中的高級(jí)非視覺(jué)傳感提供廣泛的嵌入式AI和微型機(jī)器學(xué)習(xí)（TinyML）解決方案。將Reality AI卓越的AI推理技術(shù)與瑞薩電子廣泛的MCU和MPU產(chǎn)品相結(jié)合，將實(shí)現(xiàn)機(jī)器學(xué)習(xí)和信號(hào)處理的無(wú)縫銜接。此次收購(gòu)將使瑞薩電子能夠擴(kuò)展其用于人工智能應(yīng)用的工具套件和軟件產(chǎn)品，并提高瑞薩電子自身提供高度優(yōu)化的軟硬件結(jié)合的端點(diǎn)解決方案的能力。

2023 年 5 月 ，英飛凌宣布已收購(gòu)TinyML初創(chuàng)企業(yè)Imagimob公司。

Imagimob致力于為邊緣設(shè)備的機(jī)器學(xué)習(xí)提供端到端的開(kāi)發(fā)平臺(tái)。Imagimob的平臺(tái)支持諸如音頻事件檢測(cè)、語(yǔ)音控制、預(yù)測(cè)性維護(hù)、手勢(shì)識(shí)別、信號(hào)分類、材料檢測(cè)等各種用例，并將進(jìn)一步擴(kuò)展英飛凌的軟硬件生態(tài)系統(tǒng)。合并之后，將雙方的專業(yè)知識(shí)相結(jié)合并應(yīng)用于完整的傳感器產(chǎn)品組合，將能夠?yàn)閮杉夜粳F(xiàn)有的客戶提供跨產(chǎn)品的統(tǒng)一用戶體驗(yàn)，助力客戶快速部署強(qiáng)大的解決方案，并加速TinyML在所有應(yīng)用和領(lǐng)域的進(jìn)一步普及。

2023 年 8 月，Nordic公司宣布收購(gòu)美國(guó)人工智能和機(jī)器學(xué)習(xí)公司Atlazo。

Nordic公司計(jì)劃在未來(lái)的SoC中采用Atlazo的超低功耗AI/ML處理器技術(shù)，從而增強(qiáng)Nordic公司在許多垂直市場(chǎng)的業(yè)務(wù)和技術(shù)產(chǎn)品。隨著 Atlazo 傳感器技術(shù)在健康應(yīng)用領(lǐng)域的集成，Nordic 可以更好地服務(wù)于不斷擴(kuò)大的智能健康市場(chǎng)，包括光學(xué)心臟監(jiān)測(cè)、連續(xù)血糖監(jiān)測(cè)和其他可穿戴技術(shù)。

另外，除直接并購(gòu)TinyML公司之外，還在產(chǎn)品和TinyML工具上增強(qiáng)其在TinyML應(yīng)用上的能力。如ST將推出集成NPU的STM32N6，NXP推出了集成一個(gè)DSP協(xié)處理器和神經(jīng)處理單元(NPU)的MCX產(chǎn)品組合，Microchip提供 MPLAB 機(jī)器學(xué)習(xí)開(kāi)發(fā)套件來(lái)提升其產(chǎn)品的機(jī)器學(xué)習(xí)能力。

布局TinyML的路徑

從目前各微控制器（MCU）廠家和業(yè)界的應(yīng)用情況來(lái)看，布局TinyML的路徑大致有以下三個(gè)：

TinyML工具

集成神經(jīng)網(wǎng)絡(luò)處理器（Neural Processing Unit，NPU）協(xié)處理器

TinyML平臺(tái)

相對(duì)于大語(yǔ)言模型來(lái)說(shuō)，TinyML 是一種小的或極小規(guī)模的機(jī)器學(xué)習(xí)。TinyML本身是一種軟件算法，是對(duì)數(shù)據(jù)分析和處理的一種計(jì)算處理方法，通過(guò)構(gòu)建機(jī)器學(xué)習(xí)模型來(lái)進(jìn)行推理，業(yè)界也有一些通用的TinyML機(jī)器學(xué)習(xí)模型。TinyML需要借助軟件和工具對(duì)采集來(lái)的數(shù)據(jù)進(jìn)行分析和處理、推理和驗(yàn)證等。在不斷地對(duì)模型進(jìn)行優(yōu)化處理后，還需要將將其轉(zhuǎn)換為微控制器（MCU）這類性能較弱、資源較少的微控制器（MCU）可以運(yùn)行的固件。TinyML工具有助于人工智能的開(kāi)發(fā)應(yīng)用，讓復(fù)雜的人工智能軟件的開(kāi)發(fā)變得簡(jiǎn)單快捷。

NPU是一種神經(jīng)網(wǎng)絡(luò)單元，專用于神經(jīng)網(wǎng)絡(luò)的計(jì)算，隨著人工智能應(yīng)用對(duì)計(jì)算資源的需求越來(lái)越高、任務(wù)越來(lái)越復(fù)雜，對(duì)神經(jīng)網(wǎng)絡(luò)的計(jì)算需求要求也越來(lái)越高，微控制器（MCU）中的ALU（算術(shù)運(yùn)算單元AU和邏輯運(yùn)算單元LU）不足以支持復(fù)雜的神經(jīng)網(wǎng)絡(luò)的計(jì)算需求，將NPU硬件化并集成在微控制器（MCU）內(nèi)部作為協(xié)處理器，可以大大提升人工智能應(yīng)用的計(jì)算效率。NPU實(shí)質(zhì)上也是一種專用的硬件計(jì)算單元。

一般地，基于微控制器（MCU）設(shè)計(jì)開(kāi)發(fā)的產(chǎn)品，其固件可以用幾年，甚至到其生命周期才結(jié)束。固件在其驗(yàn)證穩(wěn)定后一般不再需要更改。隨著產(chǎn)品部署規(guī)模的不斷擴(kuò)大，產(chǎn)品不斷地迭代更新，需要對(duì)微控制器（MCU）中的固件進(jìn)行更新，通過(guò)一個(gè)平臺(tái)可以對(duì)設(shè)備進(jìn)行較好的管理和維護(hù)。而TinyML平臺(tái)不僅需要對(duì)固件進(jìn)行迭代升級(jí)，還可以對(duì)數(shù)據(jù)進(jìn)行收集、機(jī)器學(xué)習(xí)模型不斷地進(jìn)行訓(xùn)練，不斷地優(yōu)化模型，使得模型的精度越來(lái)越高。另一方面，本地的微控制器（MCU）的計(jì)算資源，不足以支持大量數(shù)據(jù)的存儲(chǔ)和對(duì)模型訓(xùn)練優(yōu)化等任務(wù)。TinyML需要一個(gè)高性能的計(jì)算平臺(tái)來(lái)支撐人工智能產(chǎn)品的不斷迭代。

結(jié)束語(yǔ)

從設(shè)備的智能控制到自主的智能化，市場(chǎng)需求在不斷地推動(dòng)著技術(shù)和產(chǎn)品的創(chuàng)新發(fā)展。云端的人工智能將會(huì)下沉到邊緣上，人工智能的應(yīng)用也會(huì)更加接“地氣”，從而可以形成云邊協(xié)同分布式計(jì)算的人工智能，賦能各行各業(yè)。TinyML一般會(huì)應(yīng)用到邊緣或極邊緣的傳感器或設(shè)備上，不僅可以通過(guò)采集處理數(shù)據(jù)，還可以做一些簡(jiǎn)單的推理，使得傳感器或設(shè)備更加自主智能。

TinyML人工智能算法的運(yùn)行離不開(kāi)計(jì)算的硬件 - 微控制器（MCU），借助TinyML工具、NPU的硬件加速以及平臺(tái)化的部署，大大提升微控制器（MCU）產(chǎn)品的計(jì)算效能，為人工智能應(yīng)用開(kāi)辟了新的發(fā)展市場(chǎng)。眾多微控制器廠商的共同參與，也為市場(chǎng)提供了更多更具創(chuàng)新的產(chǎn)品或解決方案。這也將為“兼容機(jī)”時(shí)代的微控制器（MCU）帶來(lái)了新的發(fā)展機(jī)遇，必將會(huì)開(kāi)啟新一個(gè)賽道。