千芯科技推出了針對(duì)芯來RISC-V平臺(tái)的AI部署工具包

千芯科技推出了針對(duì)芯來RISC-V平臺(tái)的AI部署工具包（tinyAI SDK），使用戶可以基于該先進(jìn)技術(shù)快速部署基于芯來RISC-V內(nèi)核的AIoT應(yīng)用。在芯來UX600上，實(shí)測(cè)的AI應(yīng)用實(shí)現(xiàn)11.01倍（相較原生AI算法）的顯著推斷性能提升。千芯科技的tinyAI SDK成為首個(gè)支持芯來UX600圖像AI計(jì)算部署與加速的工具包。

千芯科技tinyAI SDK

一直以來，端側(cè)RISC-V以其靈活可裁剪高性價(jià)比的優(yōu)勢(shì)，不斷擴(kuò)展其在各個(gè)領(lǐng)域的應(yīng)用。隨著各類型科技巨頭逐漸入局RISC-V應(yīng)用產(chǎn)品，RISC-V的AIoT應(yīng)用成為業(yè)界關(guān)注的重點(diǎn)。以往基于端側(cè)RISC-V開發(fā)AI應(yīng)用，要面對(duì)缺少開發(fā)包、部署復(fù)雜、AI性能不理想等痛點(diǎn)問題。這使得端側(cè)RISC-V在AIoT上的部署一度面臨困境。

千芯科技本次推出的tinyAI SDK，基于芯來科技的UX600開發(fā)板，成功搭載了基于端側(cè)RISC-V內(nèi)核進(jìn)行人臉檢測(cè)與人臉識(shí)別的AI應(yīng)用，證明了端側(cè)RISC-V芯片在AIoT領(lǐng)域廣闊的應(yīng)用前景。

演示中使用的人臉檢測(cè)算法基于UX600實(shí)現(xiàn)的人臉檢測(cè)，輸入兩張包含人臉的圖片，檢測(cè)并輸出人臉區(qū)域：

tinyAI SDK在芯來UX600上運(yùn)行人臉檢測(cè)并輸出人臉區(qū)域

部署了tinyAI SDK的UX600，能夠高效的進(jìn)行AI計(jì)算/人臉識(shí)別。在人臉檢測(cè)后，進(jìn)行了人臉識(shí)別，并輸出人臉特征值的相似度。

tinyAI SDK在芯來UX600上運(yùn)行人臉識(shí)別/比對(duì)的輸出結(jié)果如圖所示：

tinyAI SDK 在芯來UX600上運(yùn)行人臉識(shí)別/比對(duì)的輸出結(jié)果

相較原生算法，tinyAI使得端側(cè)人臉識(shí)別的性能提到11.01倍。

千芯科技的tinyAI SDK將AI模型剪枝、量化等先進(jìn)技術(shù)整合入工具包，并針對(duì)RISC-V內(nèi)核的存儲(chǔ)、架構(gòu)特點(diǎn)進(jìn)行了針對(duì)性的特定優(yōu)化。千芯科技的tinyAI，不僅方便了AI算法在端側(cè)RISC-V平臺(tái)的部署，更大大加速了AI算法的性能，使得端側(cè)AI應(yīng)用實(shí)用化。

本次Demo實(shí)測(cè)使用的硬件平臺(tái)是芯來科技提供的加載UX600內(nèi)核的 FPGA 板卡：

芯來UX600平臺(tái)

千芯科技與芯來科技的本次合作為RISC-V生態(tài)的發(fā)展注入了新的活力，為端側(cè)RISC-V生態(tài)拓展出更加廣闊的AI空間。

責(zé)任編輯：xj

原文標(biāo)題：千芯科技助力芯來RISC-V平臺(tái)AIoT應(yīng)用

文章出處：【微信公眾號(hào)：芯來科技】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。