意法半導(dǎo)體STM32Cube.AI和NanoEdgeAI，全面支持邊緣AI部署！

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）十年前，深度神經(jīng)網(wǎng)絡(luò)模型多還是在云端執(zhí)行，而如今已經(jīng)越來越多地向邊緣側(cè)轉(zhuǎn)移。從目前的趨勢來看，邊緣人工智能將成為主流，調(diào)研機(jī)構(gòu)數(shù)據(jù)顯示，到2030年，深度端側(cè)AI設(shè)備的全球出貨量將達(dá)到25億臺。

意法半導(dǎo)體在邊緣人工智能領(lǐng)域耕耘多年，在5月12-13日舉辦的主題為“STM32 不止于芯”的第六屆STM32中國峰會上，意法半導(dǎo)體中國通用微控制器市場部丁曉磊主題演講中，詳細(xì)介紹了意法半導(dǎo)體在邊緣人工智能領(lǐng)域的軟硬件布局。

在邊緣AI領(lǐng)域，ST可以提供哪些軟硬件支持

由于具備超低時延、低數(shù)據(jù)帶寬、隱私性和安全性高等優(yōu)點(diǎn)，邊緣人工智能可以為很多領(lǐng)域提供價(jià)值，比如：一、工業(yè)預(yù)測性維護(hù)，包括條件檢測、預(yù)測性維護(hù)等；二、控制系統(tǒng)，從家電到工業(yè)機(jī)器；三、物聯(lián)網(wǎng)，包括智慧城市、智慧樓宇、智慧家庭和工業(yè)自動化等。

那么，在邊緣人工智能領(lǐng)域，意法半導(dǎo)體可以提供哪些支持呢？據(jù)丁曉磊介紹，在硬件層面，首先是STM32 MCU，意法半導(dǎo)體所有MCU，都有工具能夠支持它跑所有主流的神經(jīng)網(wǎng)絡(luò)模型，包括意法半導(dǎo)體最新發(fā)布的STM32N6，它是一顆帶有神經(jīng)網(wǎng)絡(luò)硬件處理單元的MCU；其次提供開發(fā)板支持，包括意法半導(dǎo)體自己的開發(fā)板，以及很多第三方合作伙伴的開發(fā)板。

在軟件工具層面，意法半導(dǎo)體可以提供非常多、好用的開發(fā)工具，用來幫助開發(fā)者把人工智能模型部署到硬件端，包括NanoEdge AI和Cube.AI；除了這些開發(fā)工具之外，還有模型庫Model zoo，這里面有很多預(yù)訓(xùn)練的模型，可以用來做進(jìn)一步的人工智能開發(fā)；此外，還有各種軟件包，F(xiàn)unction Packs，可以幫助開發(fā)者更好的做模型訓(xùn)練、優(yōu)化，進(jìn)行整個流程的部署。

ST的產(chǎn)品目前已經(jīng)有相當(dāng)多的成功案例，在工業(yè)自動化、智能交通、智慧城市、可穿戴、智慧家庭等領(lǐng)域，都有很多邊緣人工智能的實(shí)際應(yīng)用案例。

這個案例（上圖），最終產(chǎn)品形態(tài)是一個震動檢測的盒子，用于在工業(yè)領(lǐng)域做故障檢測，這里面有用到STM32的MCU，盒子里面還有震動傳感器。這個盒子，通過震動傳感器的數(shù)據(jù)，再通過NanoEdge AI這樣的邊緣AI算法，來實(shí)現(xiàn)整個設(shè)備的異常檢測。

這是電器解決方案中斷路器的預(yù)測性維護(hù)的案例，里面用到的是STM32G4，它用到電流、震動傳感器，做異常檢測和分類，能夠更好的做斷路器老化的預(yù)測。

丁曉磊強(qiáng)調(diào)，在這些NanoEdge AI的使用案例中，值得一提的是，并不需要海量的數(shù)據(jù)，對于使用的公司來說，也并不需要重新請一位AI算法工程師。NanoEdge AI是一個對嵌入式開發(fā)工程師非常友好，能夠很快上手的工具。

還有一個支流拉弧檢測的應(yīng)用案例，用的是Cube.AI，這里面采用的是STM32U5。不過丁曉磊表示，很多STM32型號都可以勝任這個工作，做一些異常檢測。相比于傳統(tǒng)方案，它可以減少拉弧的誤報(bào)率，提高準(zhǔn)確性，并且提升在噪聲環(huán)境下的適應(yīng)性。

ST的軟件工具都可以應(yīng)用在哪些芯片上呢？丁曉磊介紹，NanoEdge AI和Cube.AI是做全線支持的，可以用在ST整個的產(chǎn)品線上（如上圖）。開發(fā)者可以把所有主流框架的模型，只要能夠轉(zhuǎn)換出足夠小的代碼，就可以在任何STM32 MCU上部署。另外，ST還有一顆MPU，雙核，里面有一顆Cortex-M4內(nèi)核，NanoEdge AI和Cube.AI兩個平臺同樣對這顆MPU支持。

Cube.AI和NanoEdge AI具備哪些優(yōu)秀的功能

Cube.AI和NanoEdge AI這兩款軟件工具有哪些優(yōu)秀的功能呢？Cube.AI，它是一個能夠很快評估、轉(zhuǎn)換、和部署機(jī)器學(xué)習(xí)或深度神經(jīng)網(wǎng)絡(luò)在STM32 MCU上的工具。也就是，它的輸入是已經(jīng)被訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型或機(jī)器學(xué)習(xí)模型，它的輸出是可以運(yùn)行在STM32上的代碼。

Cube.AI不僅僅是一個轉(zhuǎn)換工具，它里面有非常多、非常好的優(yōu)化功能，能夠讓代碼量非常小，使其能夠更優(yōu)化的部署在STM32上。據(jù)丁曉磊介紹，Cube.AI，能夠支持所有主流的AI框架，比如TensorFlow Lite、Carrots、Pytorch、ONNX等，還有一些Machine Learning算法。

Cube.AI工具有兩個版本：一個是STM32Cube.AI，是原本的PC版本，為STM32準(zhǔn)備的AI轉(zhuǎn)換和優(yōu)化，可以直接在自己的PC上使用；一個是STM32Cube.AI開發(fā)云，是最新的線上AI服務(wù)器，也就是ST在開發(fā)者云上部署好，只要用開發(fā)者云，就可以直接用這個工具。

STM32Cube.AI開發(fā)云版本，有一個工程師很歡迎的功能，就是它有一個在線的開發(fā)板推理時間的評估功能。丁曉磊表示，ST實(shí)際上有一個服務(wù)器，后面連了很多真實(shí)的STM32的開發(fā)板。使用者可以非?？熘?，自己訓(xùn)練好的模型，在這個開發(fā)板上內(nèi)存占用夠不夠，評估推理時間。在很多應(yīng)用里，對推理時間是有明確要求的。為了很快得到推理時間，使用者可以非常方便地用在線的開發(fā)者云很快評估一個訓(xùn)練好的模型。

NanoEdge AI軟件工具，面向嵌入式開發(fā)者提供一體化的機(jī)器學(xué)習(xí)方案。從剛開始的數(shù)據(jù)收集、模型選擇、數(shù)據(jù)訓(xùn)練，到生成模型、優(yōu)化部署，它是一個從頭到尾整個支持機(jī)器學(xué)習(xí)優(yōu)化部署的工具。它的優(yōu)勢是，不需要非常大的數(shù)據(jù)量，又有比較高的內(nèi)存占用效率。

有一個洗衣機(jī)應(yīng)用案例，這個洗衣機(jī)的稱重精準(zhǔn)度是100g，如果不用AI算法，業(yè)界普通的稱重精準(zhǔn)度是300g到500g。這個100g的算法是如何實(shí)現(xiàn)的呢？它就是用了NanoEdge AI這個軟件工具來實(shí)現(xiàn)的，NanoEdge AI這個工具需要的數(shù)據(jù)信號，就是洗衣機(jī)本來電機(jī)里面的電流的特征信號，不需要再增加額外的傳感器去實(shí)現(xiàn)這個功能。

而且它的Flash和SRAM大概都只有10KB左右，意味著你可以在原有的MCU里面增加一點(diǎn)空間，就能實(shí)現(xiàn)非常好的精準(zhǔn)度，非常高的稱重檢測。這就是這個工具比較好的優(yōu)勢。

據(jù)丁曉磊介紹，客戶有越來越多的算法用例需求，用于創(chuàng)造更多智能產(chǎn)品。比如：1、希望設(shè)備能夠自主適應(yīng)目標(biāo)環(huán)境并檢測異常狀態(tài)；2、想檢測任何的異常值；3、想根據(jù)信號來檢測發(fā)生的問題的類型；4、想預(yù)測何時會達(dá)到特定的振動水平，以便在達(dá)到該極限之前有時間采取糾正措施。而NanoEdge AI就可以為客戶解決這些問題。

小結(jié)

憑借諸多優(yōu)勢，如今邊緣人工智能逐漸在各個領(lǐng)域中得到應(yīng)用，甚至說，具備AI能力會成為越來越多產(chǎn)品的標(biāo)配。意法半導(dǎo)體的STM32 MCU，以及Cube.AI和NanoEdge AI軟件工具，可以幫助開發(fā)者方便快速地將訓(xùn)練好的模型部署到終端設(shè)備上，實(shí)現(xiàn)所需要的智能化功能。