嵌入式人工智能加速落地，智能未來需要什么？

人工智能重構(gòu)邊緣，將給嵌入式系統(tǒng)注入怎樣的新能量？

今年上海國際嵌入式展（Embedded World China 2024）上，貿(mào)澤電子攜手國際知名原廠Analog Devices、Amphenol、NXP Semiconductors、onsemi、Silicon Labs、VICOR等再度亮相，呈現(xiàn)AMR/機(jī)器人、邊緣AI、電機(jī)控制、嵌入式控制系統(tǒng)、機(jī)器視覺、RIFD、人機(jī)交互、IoT等一系列技術(shù)與應(yīng)用話題。

不過三天展會(huì)看下來，貿(mào)博士的總體感受是——嵌入式AI是今年絕對(duì)的主角。

對(duì)比去年在中國的第一屆嵌入式展，各家展商主打的是AI從云端帶到邊緣端。今年則是聚焦于嵌入式AI已經(jīng)對(duì)嵌入式硬件和系統(tǒng)產(chǎn)生了那些具體的改變和影響，以及未來還將有怎樣的硬件創(chuàng)新，尤其是芯片層面的技術(shù)創(chuàng)新。

可以說，以ChatGPT為代表所引領(lǐng)的AI新時(shí)代，以全場景自動(dòng)化感知和多模態(tài)處理的大模型（LLM, Large Language Model）大大拓展了AI的感知能力，同時(shí)拓寬了應(yīng)用場景。但與此同時(shí)，AI對(duì)于大算力的需求也進(jìn)一步引發(fā)了大算力硬件的投入需求。這是一次“由軟到硬”的產(chǎn)業(yè)鏈傳導(dǎo)過程。

AI融入嵌入式系統(tǒng)深刻改變嵌入式硬件現(xiàn)狀

值得一提的是，就在今年嵌入式展會(huì)開展前一天，蘋果在其今年的WWDC上公布了一系列重磅AI戰(zhàn)略，包括發(fā)布了其人工智能系統(tǒng)Apple Intelligence以及與OpenAI的戰(zhàn)略合作，并預(yù)告未來的iPhone等終端硬件中將嵌入OpenAI的AI技術(shù)。在過去一兩年里，蘋果在這場由ChatGPT引領(lǐng)的新一輪AI競賽中的存在感并不強(qiáng)。而這此其一系列發(fā)布也顯示出這家全球科技大佬“all in AI”的決心。

而隨著蘋果吹響AI向智能終端加速滲透的沖鋒號(hào)，也預(yù)示著“大模型AI +硬件”大規(guī)模產(chǎn)品化開始。這對(duì)于整個(gè)電子產(chǎn)業(yè)鏈的帶動(dòng)效應(yīng)也將逐步顯現(xiàn)，從芯片到傳感器、攝像頭、連接器等元器件、模組等電子產(chǎn)業(yè)鏈上下游各個(gè)節(jié)點(diǎn)都有望獲得新的增長動(dòng)力，同時(shí)也將啟動(dòng)更多的嵌入式硬件的創(chuàng)新。

據(jù)分析機(jī)構(gòu)Canalys預(yù)測，2024年，全球16%的智能手機(jī)出貨為AI手機(jī)，到2028年，這一比例將激增至54%。受消費(fèi)者對(duì)AI助手和端側(cè)處理等增強(qiáng)功能需求的推動(dòng)，2023年至2028年間，AI手機(jī)市場以63%的年均復(fù)合增長率增長。

到2028年;AI手機(jī)市場份額將達(dá)到54%：

貿(mào)博士注意到，在今年嵌入式的主題演講中，業(yè)內(nèi)專業(yè)人士及相關(guān)產(chǎn)業(yè)鏈廠商也都將話題聚焦在AI的新突破給嵌入式系統(tǒng)帶來的變革，以及AIGC（生成式AI）的入口是什么等一系列話題上。其中一大共識(shí)是，AIGC的入口很大程度將在“始終在線”的輕量化智能可穿戴設(shè)備領(lǐng)域。通過硬件終端，感知視覺、聲音、動(dòng)作等，并連接到系統(tǒng)上，通過上下文意識(shí)來預(yù)測用戶的環(huán)境、情境和需求。這將帶動(dòng)一些嵌入式硬件的新增量以及新一波創(chuàng)新需求。

中關(guān)村智用人工智能研究院院長孫明俊指出，AI將會(huì)融入嵌入式系統(tǒng)中并深刻地改變嵌入式系統(tǒng)硬件。比如大量的傳感器被改變了，包括音頻領(lǐng)域的麥克風(fēng)陣列，視頻領(lǐng)域中的攝像頭、傳感器等。而在AI大模型時(shí)代，新一代的硬件將會(huì)持續(xù)出現(xiàn)，至于會(huì)呈現(xiàn)怎樣的狀態(tài)，這取決于多項(xiàng)技術(shù)的同時(shí)進(jìn)步突破，跨領(lǐng)域技術(shù)的融合疊加，這也是未來3-5年嵌入式系統(tǒng)硬件的重要挑戰(zhàn)。

近年來，各廠商都不約而同地認(rèn)定，語音交互是未來交互的主流方案。隨著AI加持端側(cè)人機(jī)語音交互功能趨勢漸顯，智能語音助手用戶數(shù)量還有望進(jìn)一步增長。根據(jù)eMarketer的數(shù)據(jù)顯示，到2025年，預(yù)計(jì)使用谷歌助手的用戶數(shù)量將達(dá)到9190萬，而Siri的用戶數(shù)量則有望達(dá)到8650萬。而隨著以iPhone新版Siri為代表的語音助手帶動(dòng)人機(jī)語音交互需求提升，升級(jí)麥克風(fēng)功能將成為實(shí)現(xiàn)AI技術(shù)應(yīng)用的關(guān)鍵一環(huán)。因而麥克風(fēng)或?yàn)樾略隽糠较颉?br />
據(jù)科創(chuàng)版日?qǐng)?bào)援引供應(yīng)鏈消息稱，蘋果的iPhone 16系列將采用指向性麥克風(fēng)（定向麥克風(fēng)）作為標(biāo)配。這種設(shè)備能集中捕捉來自特定方向的聲音，同時(shí)對(duì)其他方向的噪音有較強(qiáng)的抑制作用，同時(shí)還具備更好的防水性。對(duì)此，知名分析師郭明錤預(yù)計(jì)，新款iPhone配備先進(jìn)麥克風(fēng)技術(shù)以及iOS18升級(jí)預(yù)計(jì)將導(dǎo)致每部iPhone16的麥克風(fēng)平均售價(jià)（ASP）大幅上漲100%-150%。

德邦證券的研報(bào)分析指出，電子設(shè)備廠商及智能手機(jī)廠商對(duì)麥克風(fēng)更高信噪比及性能的需求有望帶動(dòng)價(jià)值量提升。因?yàn)锳I語音交互趨勢下，高信噪比MEMS麥克風(fēng)有望被蘋果之外的更多安卓廠商采用，并且逐漸從AI手機(jī)進(jìn)一步滲透到AI PC、AI音箱等更多智能硬件終端應(yīng)用中。

在貿(mào)澤電子代理的原廠中就有不少提供優(yōu)秀MEMS麥克風(fēng)產(chǎn)品的廠商。比如TDK InvenSense ICS-40800低噪聲定向MEMS麥克風(fēng)具有70dBA超高信噪比(SNR)和±1dB靈敏度容差，適合用于遠(yuǎn)場語音控制和語音應(yīng)用。該產(chǎn)品的典型應(yīng)用場景包括平板電腦、電話會(huì)議系統(tǒng)、數(shù)碼相機(jī)、通信耳機(jī)、安全和監(jiān)控等。另外，還有CUI Devices寬頻MEMS麥克風(fēng)，信噪比為62dBA或64dBA，靈敏度等級(jí)為-38dB，靈敏度容差低至±1dB，非常適合用于各種便攜式消費(fèi)電子產(chǎn)品。

大算力硬件稀缺芯片技術(shù)創(chuàng)新構(gòu)建AI算力引擎

而很多業(yè)內(nèi)分析也指出，AI模型巨頭和智能手機(jī)巨頭的緊密綁定將大幅提升AI大模型產(chǎn)品的滲透率。由此產(chǎn)生的推理算力需求和間接產(chǎn)生的訓(xùn)練算力需求將對(duì)整個(gè)AI算力產(chǎn)業(yè)鏈形成催化。可以說，AI手機(jī)等終端硬件與AI大模型雙向賦能。

芯原董事長戴偉民在嵌入式展期間的一場主題演講中提出的關(guān)于“兩輪科技牛市”的論述和預(yù)測讓貿(mào)博士頗有印象。他指出，上一輪科技“牛市”發(fā)生在2010年，是“先硬后軟”——由硬件領(lǐng)域的創(chuàng)新突破開啟，代表性事件是iPhone 4的誕生，開啟了智能手機(jī)引領(lǐng)的移動(dòng)互聯(lián)網(wǎng)“牛市”(2013-2015)；而這一輪“牛市”則是“先軟后硬”，代表事件是2023年ChatGPT的問世，他預(yù)測由AI大模型引領(lǐng)的大算力硬件的“牛市”將從2026年開啟。

因?yàn)楫?dāng)前的產(chǎn)業(yè)現(xiàn)狀是，大算力硬件非常缺乏。從芯片技術(shù)層面的創(chuàng)新突破來為AI提供算力引擎尤為關(guān)鍵。

Chiplet（芯?；蛐⌒酒┘夹g(shù)賦能AI大模型算力的潛能正在顯現(xiàn)。Chiplet是一種將復(fù)雜芯片拆分成多個(gè)小型、獨(dú)立且可復(fù)用的模塊的設(shè)計(jì)方法。這些模塊可以是處理器核心、內(nèi)存芯片、傳感器或其他類型的集成電路，它們通過高速接口或連接器相互連接，形成一個(gè)完整的系統(tǒng)芯片(SoC)。與傳統(tǒng)單片IC設(shè)計(jì)相比，Chiplet通過將大型芯片拆分成多個(gè)小型、獨(dú)立的模塊的設(shè)計(jì)方法，實(shí)現(xiàn)像“搭樂高積木”一般的模塊化靈活組裝設(shè)計(jì)，可以顯著降低設(shè)計(jì)復(fù)雜性，實(shí)現(xiàn)更高的靈活性、可擴(kuò)展性和可復(fù)用性。因?yàn)槊總€(gè)模塊都可以獨(dú)立設(shè)計(jì)和生產(chǎn)，然后根據(jù)需要進(jìn)行組合，這不僅提高了設(shè)計(jì)的靈活性，還促進(jìn)了跨廠商和跨領(lǐng)域的協(xié)同設(shè)計(jì)和優(yōu)化。

近年來，Chiplet市場獲得了極大的關(guān)注和增長。這一趨勢是由多種因素推動(dòng)的，包括現(xiàn)代電子設(shè)備的復(fù)雜性和需求不斷增加、加快上市時(shí)間的需求以及有效利用專業(yè)半導(dǎo)體技術(shù)的愿望，以及對(duì)定制和專用集成電路（ASIC）不斷增長的需求也推動(dòng)了這一趨勢。

而AI對(duì)大算力的需求也將推動(dòng)Chiplet技術(shù)的發(fā)展。因?yàn)锳I訓(xùn)練、推理需要大量高性能、高可靠性的服務(wù)器芯片來支持各種計(jì)算和存儲(chǔ)任務(wù)。通過將服務(wù)器芯片拆分為多個(gè)小型、獨(dú)立的計(jì)算和存儲(chǔ)模塊，可以實(shí)現(xiàn)更高效、更可靠的計(jì)算和存儲(chǔ)服務(wù)。據(jù)研究機(jī)構(gòu)Omida統(tǒng)計(jì)，微處理器是Chiplet最大的細(xì)分市場，支持Chiplet的微處理器市場份額預(yù)計(jì)將從2018年的4.52億美元增長到2024年的24億美元。

據(jù)市調(diào)機(jī)構(gòu)Market.us公布的最新報(bào)告數(shù)據(jù)，2023年全球Chiplet市場產(chǎn)生的市場規(guī)模約31億美元，預(yù)計(jì)到2024年將達(dá)到44億美元。2024年至2033年，Chiplet行業(yè)的復(fù)合年均增長率預(yù)計(jì)將達(dá)到42.5%，到2033年估值將達(dá)到1070億美元。按細(xì)分市場來看，2023年，CPU Chiplet占據(jù)主導(dǎo)地位，占據(jù)超過41%的份額。應(yīng)用方面，2023年，消費(fèi)電子領(lǐng)域在Chiplet市場中占據(jù)主導(dǎo)地位，占據(jù)超過26%的份額。

RISC-V+ AI是另一個(gè)方向。近年來，RISC-V開源指令集架構(gòu)快速發(fā)展，已成為當(dāng)前國際科技競爭的焦點(diǎn)，同時(shí)也成為一個(gè)有效抓手來以開源開放凝聚產(chǎn)業(yè)發(fā)展共識(shí)，打造全球算力產(chǎn)業(yè)生態(tài)。

貿(mào)博士在嵌入式展期間了解到，盡管當(dāng)前英偉達(dá)的GPU及其之上的CUDA軟件生態(tài)主導(dǎo)著全球Al算力市場，但產(chǎn)業(yè)界迫切希望建建立新的軟件生態(tài)以突破CUDA生態(tài)壁壘。通過RISC-V+Al擴(kuò)展指令，用開源來打破英偉達(dá)壟斷，已經(jīng)逐漸成為全球業(yè)界新共識(shí)。Google、Meta、Microsoft、OpenAI等均在Al芯片中使用RISC-V架構(gòu)。而當(dāng)前RISC-V+Al擴(kuò)展指令尚無統(tǒng)一標(biāo)準(zhǔn)，RISC-V國際基金會(huì)正在加快推動(dòng)以開源開放的方式共同制定Al擴(kuò)展指令集標(biāo)淮，并合作研發(fā)其上的開源Al系統(tǒng)軟件棧。

RISC-V架構(gòu)開源、精簡、可擴(kuò)展性強(qiáng)，在此輪芯片產(chǎn)業(yè)周期中發(fā)展最為迅速。公開數(shù)據(jù)顯示，2022年全球共生產(chǎn)100億顆RISC-V芯片，有一半源于中國。

嵌入式AI方案應(yīng)用一覽：

在本次嵌入式展期間，我們的展臺(tái)上也展示了多個(gè)來自原廠的多個(gè)嵌入式AI方案的DEMO應(yīng)用展示。

ADI：小尺寸有大智慧，基于機(jī)器視覺的機(jī)械臂應(yīng)用

該機(jī)械臂方案由三個(gè)模組構(gòu)成，第一個(gè)是ADI的MAX78000攝像頭模組，第二個(gè)是中央處理器，第三個(gè)是馬達(dá)控制驅(qū)動(dòng)器。這一應(yīng)用可以通過MAX78000攝像頭模組來識(shí)別二維碼標(biāo)簽及位置信息，并發(fā)送給中央處理器；中央處理器通過計(jì)算規(guī)劃路徑，驅(qū)動(dòng)馬達(dá)控制器來控制機(jī)械臂進(jìn)行跟蹤抓取。

ADI MAX78000攝像頭模組是由ADI開發(fā)的超低功耗邊緣AI處理器MAX78000 SoC加一個(gè)攝像頭所組成。該邊緣AI處理器具有以下特征：其一是配備了64個(gè)并行處理器可同時(shí)進(jìn)行并行運(yùn)算，極大提升處理性能；MAX78000是一顆深度學(xué)習(xí)的推理芯片，它在推理過程中幾乎不需要其他微控制器核的介入，操作的流線化程度高。其二，在做卷積神經(jīng)網(wǎng)絡(luò)計(jì)算的時(shí)候，其卷積神經(jīng)網(wǎng)絡(luò)加速器的內(nèi)部集成了RAM存儲(chǔ)功能，使得微控制器無需在連續(xù)的數(shù)學(xué)運(yùn)算中每次都要通過總線來獲取相關(guān)參數(shù)。其三，該模組還對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行了特別的優(yōu)化處理，可以在本地以低功耗實(shí)時(shí)執(zhí)行AI處理，大幅提高機(jī)器視覺、語音和面部識(shí)別等應(yīng)用的工作效率。

NXP：嵌入式AI開發(fā)如何加速？一款基于MCX N947的人臉追蹤風(fēng)扇解決方案

恩智浦在貿(mào)澤電子展位展示了一款基于MCX N947的人臉追蹤風(fēng)扇解決方案，形象地展示了如何將AI與嵌入式系統(tǒng)開發(fā)有機(jī)結(jié)合起來，營造新的開發(fā)生態(tài)，打造與眾不同的創(chuàng)新用例。來自恩智浦的新一代MCX系列MCU平臺(tái)，以及與之配套的FRDM開發(fā)生態(tài)充分展現(xiàn)出該公司在推動(dòng)嵌入式AI發(fā)展的信心和實(shí)力。

onsemi：用于雙向OBC的6.6KW CLLC隔離DC-DC轉(zhuǎn)換器

CLLC繼承了LLC拓?fù)涞奶攸c(diǎn)，采用脈沖頻率調(diào)節(jié)來控制增益，具有同樣的軟開關(guān)特性，因此，能效高且EMI表現(xiàn)好，但也存在增益調(diào)整范圍窄、難以滿足寬廣的電池電壓變化范圍的挑戰(zhàn)。

在其功率板中，位于母線側(cè)和電池測的兩個(gè)有源橋分別由四顆1200 V/40毫歐NVHL040N120SC1和四顆900 V/20毫歐NVHL020N090SC1碳化硅(SiC) MOS構(gòu)成。相比于硅器件，碳化硅器件可以實(shí)現(xiàn)更高的功率密度、更高的開關(guān)頻率和極高效的設(shè)計(jì)。

Silicon Labs：引領(lǐng)智能家居風(fēng)向標(biāo)的Matter標(biāo)準(zhǔn)

Matter作為物聯(lián)網(wǎng)設(shè)備的新標(biāo)準(zhǔn)，與其他的一些標(biāo)準(zhǔn)不同，Matter不依賴于特定的無線網(wǎng)絡(luò)技術(shù)，由于其基于IP的基礎(chǔ)，Matter可以于多種網(wǎng)絡(luò)標(biāo)準(zhǔn)及物理層配合使用。作為物聯(lián)網(wǎng)及Matter解決方案的領(lǐng)導(dǎo)供應(yīng)商之一，Silicon Labs展示了基于EFR32MG2x系列無線多模SoC開發(fā)的一套本地化的智能家居系統(tǒng)。在未來的智能家居系統(tǒng)中，都會(huì)存在一個(gè)或者多個(gè)智能網(wǎng)關(guān)，不同廠家的智能設(shè)備都會(huì)接入到智能網(wǎng)關(guān)中。由于EFR32MG2x系列無線多模SoC支持低功耗藍(lán)牙、Thread、Zigbee、Matter等協(xié)議開發(fā)，并且該無線多模SoC獨(dú)有的Secure Vault物聯(lián)網(wǎng)安全技術(shù)，可以充分保障物聯(lián)網(wǎng)產(chǎn)品的安全性能。因此在這次展示的demo中可以看到支持不同無線協(xié)議的智能設(shè)備通過智能網(wǎng)關(guān)（基于EFR32MG2x系列無線多模SoC設(shè)計(jì)）組成一套完整的智能家居系統(tǒng)。

關(guān)于作者

Carrie Gan (干曄)

擁有14年媒體從業(yè)經(jīng)驗(yàn)，她擅長深度剖析半導(dǎo)體和電子產(chǎn)業(yè)鏈的發(fā)展，專注于AI、自動(dòng)駕駛等新興技術(shù)和應(yīng)用的報(bào)道，曾供職于福布斯中國和IT時(shí)代周刊等知名媒體機(jī)構(gòu)。在2022年，加入貿(mào)澤電子，負(fù)責(zé)技術(shù)內(nèi)容的創(chuàng)作和管理工作，致力于創(chuàng)作有趣、新鮮且具有深度的硬核科技內(nèi)容。