如何通過嵌入式設(shè)計(jì)開發(fā)的低成本 MCU 中實(shí)現(xiàn) AI 功能？

AI：Artificial Intelligence，即人工智能。

AI 與我們息息相關(guān)，手機(jī)導(dǎo)航、語音控制、智慧工廠、物流等這些都會運(yùn)用 AI 相關(guān)技術(shù)。

隨著人工智能的普及，很多使用 MCU 開發(fā)的產(chǎn)品也走向了 AI 的世界。AI 設(shè)計(jì)主要參與方都是功能強(qiáng)大的 CPU，GPU 和 FPGA 等。MCU 與強(qiáng)大的人工智能（AI）有什么關(guān)系？

隨著 AI 從云到邊緣的發(fā)展，使得這一觀點(diǎn)正在迅速改變，AI 計(jì)算引擎使 MCU 能夠突破嵌入式應(yīng)用可能的極限，嵌入式設(shè)計(jì)已經(jīng)能夠提高網(wǎng)絡(luò)攻擊的實(shí)時響應(yīng)能力和設(shè)備安全性。

云計(jì)算推動了對具有 AI 功能的 MCU 的需求；它減少了數(shù)據(jù)傳輸所需的帶寬，并節(jié)省了云服務(wù)器的處理能力，如下圖：

配備 AI 算法的 MCU 正在應(yīng)用包含對象識別，啟用語音服務(wù)和自然語言處理等功能的應(yīng)用程序。它們還有助于提高物聯(lián)網(wǎng)（IoT），可穿戴設(shè)備和醫(yī)療應(yīng)用中電池供電設(shè)備的準(zhǔn)確性和數(shù)據(jù)隱私性。

那么，MCU 如何在邊緣和節(jié)點(diǎn)設(shè)計(jì)中實(shí)現(xiàn) AI 功能？下面簡要介紹了三種基本方法，這些方法使 MCU 能夠在 IoT 網(wǎng)絡(luò)邊緣執(zhí)行 AI 加速。

三個 MCU + AI 場合

第一種方法（可能是最常見的方法）涉及各種神經(jīng)網(wǎng)絡(luò)（NN）框架（例如 Caffe 2，TensorFlow Lite 和 Arm NN）的模型轉(zhuǎn)換，用于在 MCU 上部署云訓(xùn)練的模型和推理引擎。有一些軟件工具可以從云中獲取經(jīng)過預(yù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，并通過將其轉(zhuǎn)換為 C 代碼來針對 MCU 進(jìn)行優(yōu)化。

在 MCU 上運(yùn)行的優(yōu)化代碼可以在語音，視覺和異常檢測應(yīng)用程序中執(zhí)行 AI 功能。工程師可以將這些工具集下載到 MCU 配置中，并運(yùn)行優(yōu)化神經(jīng)網(wǎng)絡(luò)的推論。這些 AI 工具集還提供了基于神經(jīng)網(wǎng)絡(luò)的 AI 應(yīng)用程序的代碼示例。

AI 執(zhí)行模型轉(zhuǎn)換工具可以在低成本和低功耗 MCU 上運(yùn)行優(yōu)化神經(jīng)網(wǎng)絡(luò)的推論，如下圖所示：

第二種方法是繞過了對從云借用的預(yù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的需求，設(shè)計(jì)人員可以將 AI 庫集成到微控制器中，并將本地 AI 培訓(xùn)和分析功能納入其代碼中。

隨后，開發(fā)人員可以基于從邊緣的傳感器，麥克風(fēng)和其他嵌入式設(shè)備獲取的信號來創(chuàng)建數(shù)據(jù)模型，并運(yùn)行諸如預(yù)測性維護(hù)和模式識別之類的應(yīng)用程序。

第三，AI 專用協(xié)處理器的可用性使 MCU 供應(yīng)商能夠加快機(jī)器學(xué)習(xí)功能的部署。諸如 Arm Cortex-M33 之類的協(xié)處理器利用了諸如 CMSIS-DSP 之類的流行 API 來簡化代碼的可移植性，從而使 MCU 與協(xié)處理器緊密耦合，可加快 AI 功能，如協(xié)處理相關(guān)和矩陣運(yùn)算。

同時，新推出的 Cortex-M55 具有更強(qiáng)的 AI 處理能力。

上述軟件和硬件平臺演示了如何通過根據(jù)嵌入式設(shè)計(jì)要求開發(fā)的推理引擎在低成本 MCU 中實(shí)現(xiàn) AI 功能。這很關(guān)鍵，因?yàn)橹С?AI 的 MCU 很有可能在 IoT，工業(yè)，智能建筑和醫(yī)療應(yīng)用中改變嵌入式設(shè)備的設(shè)計(jì)。
責(zé)任編輯:pj