0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

設(shè)計一個高效的MCU AI工具鏈實現(xiàn)嵌入式AI推理

NXP客棧 ? 來源:NXP客棧 ? 作者:NXP客棧 ? 2021-06-06 18:05 ? 次閱讀

如今在嵌入式開發(fā)領(lǐng)域,如何實現(xiàn)嵌入式AI推理是一個熱門話題。其中,如何在低算力、低功耗、低成本的MCU上部署AI應(yīng)用,是開發(fā)者普遍面臨的一個設(shè)計“痛點(diǎn)”。

硬件方面,MCU自身性能的局限性限制了推理引擎的規(guī)模;在軟件方面,目前主流的開源工具缺乏針對MCU的算法優(yōu)化的統(tǒng)一標(biāo)準(zhǔn),量化后會造成精度損失,針對MCU硬件的性能優(yōu)化和模型算法的優(yōu)化融合不足,大而全的開源推理引擎對MCU內(nèi)存空間浪費(fèi)嚴(yán)重……這些都在制約嵌入式AI應(yīng)用的進(jìn)一步發(fā)展。

破解這一難題,關(guān)鍵的一點(diǎn)就在于——設(shè)計一個高效的MCU AI工具鏈。

日前,在“GTIC 2021嵌入式創(chuàng)新峰會”上,恩智浦AI-IoT方案資深研發(fā)經(jīng)理秦建峰先生在主題為《如何設(shè)計高效率MCU AI工具鏈》的演講中,分享了恩智浦對此的思考和答案——恩智浦NANO.AI工具鏈。

原文標(biāo)題:破解高效MCU AI工具鏈設(shè)計難題,答案這里!

文章出處:【微信公眾號:NXP客棧】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

責(zé)任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • mcu
    mcu
    +關(guān)注

    關(guān)注

    146

    文章

    16667

    瀏覽量

    347784
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    28877

    瀏覽量

    266227
  • 嵌入式AI
    +關(guān)注

    關(guān)注

    0

    文章

    33

    瀏覽量

    797

原文標(biāo)題:破解高效MCU AI工具鏈設(shè)計難題,答案這里!

文章出處:【微信號:NXP客棧,微信公眾號:NXP客?!繗g迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    恩智浦加速嵌入式AI創(chuàng)新應(yīng)用開發(fā)

    AI應(yīng)用飛速發(fā)展的今天,如何能夠?qū)?b class='flag-5'>AI與嵌入式系統(tǒng)開發(fā)有機(jī)結(jié)合起來,營造新的開發(fā)生態(tài),打造與眾不同的創(chuàng)新用例,直是嵌入式開發(fā)者追求的目標(biāo)
    的頭像 發(fā)表于 08-27 09:46 ?509次閱讀

    嵌入式軟件開發(fā)與AI整合

    嵌入式軟件開發(fā)與AI整合是當(dāng)前技術(shù)發(fā)展的重要趨勢之。隨著人工智能技術(shù)的快速發(fā)展,嵌入式系統(tǒng)越來越多地集成了AI算法,以
    的頭像 發(fā)表于 07-31 09:25 ?488次閱讀
    <b class='flag-5'>嵌入式</b>軟件開發(fā)與<b class='flag-5'>AI</b>整合

    MCU如何實現(xiàn)AI功能

    MCU也開始能夠執(zhí)行些基本的機(jī)器學(xué)習(xí)(ML)和AI任務(wù),特別是通過優(yōu)化算法、使用簡化模型(如量化神經(jīng)網(wǎng)絡(luò))以及嵌入式優(yōu)化庫來實現(xiàn)。
    的頭像 發(fā)表于 07-19 11:51 ?536次閱讀

    AI引爆邊緣計算變革,塑造嵌入式產(chǎn)業(yè)新未來AI引爆邊緣計算變革,塑造嵌入式產(chǎn)業(yè)新未來——2024研華嵌入式

    ,來自英特爾、高通、瑞芯微、微軟、Hailo等全球知名半導(dǎo)體和軟件廠商均分享了AI帶來的嵌入式技術(shù)變革與創(chuàng)新。同時,大會還邀請到機(jī)器視覺、醫(yī)療、智能駕駛等眾多產(chǎn)業(yè)伙伴與研華同分享最新AI
    發(fā)表于 05-31 13:53 ?209次閱讀
    <b class='flag-5'>AI</b>引爆邊緣計算變革,塑造<b class='flag-5'>嵌入式</b>產(chǎn)業(yè)新未來<b class='flag-5'>AI</b>引爆邊緣計算變革,塑造<b class='flag-5'>嵌入式</b>產(chǎn)業(yè)新未來——2024研華<b class='flag-5'>嵌入式</b>

    AI與開源力推嵌入式系統(tǒng)創(chuàng)新升級

    AMD在此次展會上宣布擴(kuò)大AMD Versal?自適應(yīng)片上系統(tǒng)(SoC)產(chǎn)品線,推出全新第二代Versal AI Edge和Versal Prime系列自適應(yīng)SoC。該系列將預(yù)處理、AI推理和后處理集成于單
    的頭像 發(fā)表于 04-29 11:11 ?373次閱讀

    開發(fā)者手機(jī) AI - 目標(biāo)識別 demo

    Lite的API接口實現(xiàn)主要功能; Mindspore Lite為Openharmony AI推理框架,為上層應(yīng)用提供統(tǒng)AI
    發(fā)表于 04-11 16:14

    AMD Versal SoC刷新邊緣AI性能,單芯片方案驅(qū)動嵌入式系統(tǒng)

    與后處理集成于單器件中,能夠為 AI 驅(qū)動型嵌入式系統(tǒng)提供端到端加速。 AI驅(qū)動型嵌入式系統(tǒng)的三階段 在
    的頭像 發(fā)表于 04-11 09:06 ?3532次閱讀
    AMD Versal SoC刷新邊緣<b class='flag-5'>AI</b>性能,單芯片方案驅(qū)動<b class='flag-5'>嵌入式</b>系統(tǒng)

    AMD Versal SoC全新升級邊緣AI性能,單芯片方案驅(qū)動嵌入式系統(tǒng)

    與后處理集成于單器件中,能夠為 AI 驅(qū)動型嵌入式系統(tǒng)提供端到端加速。 ? AI驅(qū)動型嵌入式系統(tǒng)的三階段 在
    的頭像 發(fā)表于 04-09 21:32 ?857次閱讀
    AMD Versal SoC全新升級邊緣<b class='flag-5'>AI</b>性能,單芯片方案驅(qū)動<b class='flag-5'>嵌入式</b>系統(tǒng)

    嵌入式系統(tǒng)發(fā)展前景?

    設(shè)備、健康監(jiān)測等領(lǐng)域有著廣泛的應(yīng)用前景。隨著人們對健康的重視程度不斷提高,嵌入式系統(tǒng)將更為深入地應(yīng)用于醫(yī)療設(shè)備和健康護(hù)理中,實現(xiàn)個人健康管理的智能化和實時化。 汽車電子和自動駕駛是嵌入式系統(tǒng)的另
    發(fā)表于 02-22 14:09

    海思披露了公司聚焦行業(yè)專用和嵌入式AI技術(shù)的A2MCU

    在12月中,上海海思披露了公司聚焦行業(yè)專用(Application Specific)和嵌入式AI技術(shù)(Artificial Intelligence)的A2MCU。
    的頭像 發(fā)表于 01-04 10:04 ?1048次閱讀
    海思披露了公司聚焦行業(yè)專用和<b class='flag-5'>嵌入式</b><b class='flag-5'>AI</b>技術(shù)的A2<b class='flag-5'>MCU</b>

    AI算法在RZ/V芯片中的移植推理流程

    之前文章已介紹了AI算法Demo的應(yīng)用 ,我們提供從模型訓(xùn)練到RZ/V系列嵌入式推理應(yīng)用的完整流程。整體流程如下圖所示。
    的頭像 發(fā)表于 12-20 12:21 ?915次閱讀
    <b class='flag-5'>AI</b>算法在RZ/V芯片中的移植<b class='flag-5'>推理</b>流程

    HarmonyOS:使用MindSpore Lite引擎進(jìn)行模型推理

    場景介紹 MindSpore Lite 是AI 引擎,它提供了面向不同硬件設(shè)備 AI 模型推理的功能,目前已經(jīng)在圖像分類、目標(biāo)識別、人臉識別、文字識別等應(yīng)用中廣泛使用。 本文介紹
    發(fā)表于 12-14 11:41

    AI如何在數(shù)以百億的MCU嵌入式應(yīng)用中落地?

    AI如何在數(shù)以百億的MCU嵌入式應(yīng)用中落地?海思正在給出自己的答案。
    的頭像 發(fā)表于 12-12 15:53 ?1212次閱讀
    <b class='flag-5'>AI</b>如何在數(shù)以百億的<b class='flag-5'>MCU</b><b class='flag-5'>嵌入式</b>應(yīng)用中落地?

    利用 NVIDIA Jetson 實現(xiàn)生成 AI

    的無限可能性。不同于其他嵌入式平臺,Jetson 能夠在本地運(yùn)行大語言模型(LLM)、視覺 Transformer 和 stable diffusion,包括在 Jetson AGX Orin 上以
    的頭像 發(fā)表于 11-07 21:25 ?774次閱讀
    利用 NVIDIA Jetson <b class='flag-5'>實現(xiàn)</b>生成<b class='flag-5'>式</b> <b class='flag-5'>AI</b>

    MCU AI的崛起和應(yīng)用 如何移植TinyMaix推理框架到RT-THREAD

    當(dāng)談到微控制器(MCU)和人工智能(AI)的結(jié)合,我們進(jìn)入了激動人心的領(lǐng)域。傳統(tǒng)上,AI應(yīng)用程序需要大型計算機(jī)或云服務(wù)器的處理能力,但隨
    的頭像 發(fā)表于 11-05 11:07 ?1964次閱讀
    <b class='flag-5'>MCU</b> <b class='flag-5'>AI</b>的崛起和應(yīng)用 如何移植TinyMaix<b class='flag-5'>推理</b>框架到RT-THREAD