新聞提要
恩智浦在eIQ AI和機(jī)器學(xué)習(xí)開發(fā)軟件中增加了帶有檢索增強(qiáng)生成(RAG)與微調(diào)的生成式人工智能(GenAI)流程和eIQ Time Series Studio,以便在小型微控制器(MCU)、功能更強(qiáng)大的大型應(yīng)用處理器(MPU)等各種邊緣處理器上輕松部署和使用AI。
恩智浦半導(dǎo)體宣布在其eIQ AI和機(jī)器學(xué)習(xí)開發(fā)軟件中增加兩款新工具,以便輕松在各種邊緣處理器上部署和使用AI邊緣。
eIQ Time Series Studio提供自動機(jī)器學(xué)習(xí)工作流程,可輕松在MCU級芯片(如MCX系列MCU產(chǎn)品組合或i.MX RT跨界MCU產(chǎn)品組合)上開發(fā)和部署基于時間序列的機(jī)器學(xué)習(xí)模型。
GenAI流程為支持生成式AI解決方案的大語言模型(LLM)提供構(gòu)建模塊。此類方案與MPU(如恩智浦i.MX系列應(yīng)用處理器)結(jié)合使用,通過在特定上下文數(shù)據(jù)中訓(xùn)練LLM,簡化智能邊緣的部署。例如,配備LLM的電器經(jīng)過用戶手冊訓(xùn)練后,能夠用自然語言與用戶交流,告知用戶如何使用特定功能、執(zhí)行特定任務(wù)或優(yōu)化使用和維護(hù)。
重要意義
在邊緣部署AI有諸多好處,包括降低延遲、加強(qiáng)用戶隱私保護(hù)及減少能耗。恩智浦eIQ工具包擴(kuò)展可顯著簡化并加速部署流程,開發(fā)人員能夠訪問更廣泛的使用各類模型類型,包括生成式AI、基于時間序列的模型以及基于視覺的模型。此外,用戶能夠在各類邊緣處理器上部署模型。
恩智浦半導(dǎo)體資深副總裁、工業(yè)和物聯(lián)網(wǎng)總經(jīng)理Charles Dachs表示:“AI是實現(xiàn)基于用戶需求進(jìn)行預(yù)測和自動化的關(guān)鍵,但它必須以適用于邊緣部署的方式進(jìn)行開發(fā)。恩智浦為MCU(如MCX系列)、i.MX RT700等跨界MCU上的小型AI模型以及在i.MX 95應(yīng)用處理器等更強(qiáng)大的設(shè)備上運(yùn)行的大型生成式AI模型提供即時可用的工具,為開發(fā)人員提供了豐富的選擇,涵蓋各類AI模型和支持AI的邊緣處理器,使得邊緣AI真正適用于各行各業(yè)的應(yīng)用開發(fā)人員” 。
eIQ Time Series Studio可簡化并加速基于時間序列的AI模型的開發(fā)與部署,支持多種輸入信號(如電壓、電流、溫度、振動、壓力、聲音、飛行時間及信號組合)以及多模態(tài)傳感器融合。借助自動機(jī)器學(xué)習(xí)功能,開發(fā)人員能夠從原始時間序列數(shù)據(jù)中提取有意義的見解,快速構(gòu)建符合性能、內(nèi)存、Flash存儲大小和精度要求的AI模型。該工具提供完整的開發(fā)環(huán)境,包括數(shù)據(jù)管理、可視化和分析以及模型自動生成、優(yōu)化、仿真和部署。界面簡潔直觀,軟件開發(fā)人員無需具備深厚的數(shù)據(jù)科學(xué)或AI專業(yè)知識即可創(chuàng)建經(jīng)過優(yōu)化的異常檢測、分類和回歸庫。
恩智浦的GenAI流程使得生成式AI應(yīng)用可以在邊緣設(shè)備上部署。這一軟件流程提供了優(yōu)化生成模型的方法,并提供檢索增強(qiáng)生成(RAG),可在不向模型或處理器提供商披露敏感信息的情況下,利用領(lǐng)域特定知識和私有數(shù)據(jù)以安全的方式微調(diào)模型。通過將多個模塊接入單一流程,客戶可根據(jù)其任務(wù)輕松定制LLM,并使用恩智浦i.MX 95應(yīng)用處理器等MPU對其進(jìn)行優(yōu)化,以便在邊緣部署。
-
恩智浦
+關(guān)注
關(guān)注
14文章
5816瀏覽量
106285 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8347瀏覽量
132289 -
邊緣AI
+關(guān)注
關(guān)注
0文章
87瀏覽量
4926
原文標(biāo)題:eIQ軟件升級啦!增加兩款新工具,讓邊緣AI部署和使用更輕松
文章出處:【微信號:NXP客棧,微信公眾號:NXP客棧】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論