工程師說 | 引入DRP-AI TVM以簡(jiǎn)化AI模型的實(shí)施

您在嵌入式設(shè)備中實(shí)施人工智能模型時(shí)是否遇到困難？本篇文章將為您介紹DRP-AI TVM，它簡(jiǎn)化了AI模型的實(shí)現(xiàn)。

近年來，人工智能已經(jīng)在監(jiān)控?cái)z像頭、交通監(jiān)控系統(tǒng)、機(jī)器人和無人機(jī)等嵌入式設(shè)備中得到實(shí)施。與云環(huán)境不同，嵌入式設(shè)備在實(shí)現(xiàn)人工智能方面有很多困難，比如要考慮HW性能、成本和功率限制。通過使用RZ/V系列AI-MPU和瑞薩的低功耗AI加速器DRP-AI，可以解決大部分HW實(shí)施的挑戰(zhàn)。

當(dāng)客戶在我們的AI-MPU上實(shí)現(xiàn)AI模型時(shí)，他們使用DRP-AI翻譯器，將AI模型轉(zhuǎn)換為DRP-AI可執(zhí)行文件，但一些客戶指出，這很難實(shí)現(xiàn)，有兩個(gè)主要原因：

01

DRP-AI翻譯器支持的唯一AI模型格式是ONNX。

02

如果模型包含DRP-AI翻譯器不支持的運(yùn)算符，則不可能進(jìn)行轉(zhuǎn)換。

到目前為止，瑞薩一直要求客戶自行處理此類情況，這對(duì)一些客戶來說是一種負(fù)擔(dān)。我們相信，解決這些問題將提高客戶的便利性，并發(fā)布了新的DRP-AI TVM。

DRP-AI TVM是一個(gè)開源的ML編譯器Apache TVM，支持DRP-AI。自動(dòng)將DRP-AI翻譯器不支持的操作者分配給CPU，使其更容易支持更多的AI模型。它還可以處理ONNX以外的AI框架格式。此外，DRP-AI能夠以與傳統(tǒng)DRP-AI翻譯流程相同的方式處理AI推理的預(yù)處理，從而提高包括預(yù)處理在內(nèi)的總的AI性能。

DRP-AI TVM的配置

用DRP-AI TVM對(duì)AI模型操作員

進(jìn)行自動(dòng)CPU分配

DRP-AI TVM可在GitHub上使用，方便客戶訪問。GitHub包含教程、示例代碼、各種人工智能模型的性能評(píng)估結(jié)果以及其他足以讓客戶使用產(chǎn)品的信息。這些教程包括在瑞薩評(píng)估板上從構(gòu)建環(huán)境到推理的步驟，客戶可以通過這些步驟輕松評(píng)估他們的人工智能模型。瑞薩將繼續(xù)改善用戶體驗(yàn)，使客戶更容易使用瑞薩的產(chǎn)品。

參考資料

01

DRP-AI TVM由Edgecortix MERATM編譯器框架提供支持，DRP-AI的更多內(nèi)容請(qǐng)點(diǎn)擊文末閱讀原文查看介紹頁(yè)

02

Apache TVM網(wǎng)站

https://tvm.apache.org/

03

RZ/V系列介紹

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus

04

Renesas info wiki RZ/V系列

https://renesas.info/wiki/RZ-V

05

DRP-AI TVM GitHub

https://github.com/renesas-rz/rzv_drp-ai_tvm

06

DRP-AI TVM教程

https://www.renesas.cn/cn/zh/application/key-technology/artificial-intelligence/ai-accelerator-drp-ai/ai-tool-drp-ai-tvm

07

EVK購(gòu)買鏈接：

? RZ/V2L評(píng)估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2l-evkit-rzv2l-evaluation-board-kit

? RZ/V2M評(píng)估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2m-evkit-rzv2m-evaluation-board-kit

? RZ/V2MA評(píng)估板套件

https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2ma-evaluation-board-kit-rzv2ma-evaluation-board-kit

1

END

1

瑞薩電子 (TSE: 6723)

科技讓生活更輕松，致力于打造更安全、更智能、可持續(xù)發(fā)展的未來。作為全球微控制器供應(yīng)商，瑞薩電子融合了在嵌入式處理、模擬、電源及連接方面的專業(yè)知識(shí)，提供完整的半導(dǎo)體解決方案。成功產(chǎn)品組合加速汽車、工業(yè)、基礎(chǔ)設(shè)施及物聯(lián)網(wǎng)應(yīng)用上市，賦能數(shù)十億聯(lián)網(wǎng)智能設(shè)備改善人們的工作和生活方式。更多信息，敬請(qǐng)?jiān)L問renesas.com