RK3588 技術(shù)分享 | 在Android系統(tǒng)中使用NPU實(shí)現(xiàn)Yolov5分類(lèi)檢測(cè)-迅為電子

隨著人工智能和大數(shù)據(jù)時(shí)代的到來(lái)，傳統(tǒng)嵌入式處理器中的CPU和GPU逐漸無(wú)法滿(mǎn)足日益增長(zhǎng)的深度學(xué)習(xí)需求。為了應(yīng)對(duì)這一挑戰(zhàn)，在一些高端處理器中，NPU（神經(jīng)網(wǎng)絡(luò)處理單元）也被集成到了處理器里。NPU的出現(xiàn)不僅減輕了CPU和GPU的負(fù)擔(dān)，還讓復(fù)雜的計(jì)算任務(wù)得以高效處理。在典型的工作流中，CPU會(huì)首先接收任務(wù)，并根據(jù)任務(wù)的性質(zhì)將其分配給合適的處理單元，圖像處理任務(wù)由GPU處理，而人工智能相關(guān)任務(wù)則交給NPU。

應(yīng)用領(lǐng)域：

圖像識(shí)別:NPU能夠迅速對(duì)圖像進(jìn)行分類(lèi)、檢測(cè)和分割等操作，大大提升了處理效率。
語(yǔ)音識(shí)別:NPU實(shí)現(xiàn)了實(shí)時(shí)語(yǔ)音轉(zhuǎn)換和語(yǔ)音合成功能，為語(yǔ)音交互提供了更自然的體驗(yàn)。
自然語(yǔ)言處理:NPU幫助機(jī)器完成更高效的翻譯、文本分類(lèi)和情感分析，推動(dòng)了自然語(yǔ)言處理技術(shù)的發(fā)展。

實(shí)例分享：Yolov5分類(lèi)檢測(cè)

在RK3588處理器上，不僅可以基于Linux系統(tǒng)使用NPU，也可以基于Android系統(tǒng)使用NPU，基于Linux使用NPU已經(jīng)多次與大家分享過(guò)就不在贅述。

在 Android平臺(tái)上，可以通過(guò)兩種方式調(diào)用RKNN API：直接鏈接librknnrt.so或鏈接基于Android平臺(tái)HIDL實(shí)現(xiàn)的librknn_api_android.so。對(duì)于需要通過(guò)CTS/VTS測(cè)試的設(shè)備，建議使用后者，而對(duì)于不需要測(cè)試的設(shè)備，直接鏈接librknnrt.so可以提供更好的性能。

在開(kāi)發(fā)板網(wǎng)盤(pán)資料中提供了Yolov5分類(lèi)檢測(cè)的示例—rknn_yolov5_android_apk_demo（基于瑞芯微官方demo修改）

測(cè)試步驟

⑴硬件連接

使用USB-TypeC連接線(xiàn)連接到OTG端口，連接迅為的ov13850/ov5695攝像頭，連接屏幕

⑵例程測(cè)試

啟動(dòng) Android Studio，打開(kāi)rknn_yolov5_android_apk_demo應(yīng)用工程文件夾進(jìn)行編譯，編譯成功后，選擇iTOP-RK3588設(shè)備并運(yùn)行應(yīng)用程序

當(dāng)APP運(yùn)行時(shí)，您會(huì)在迅為iTOP-RK3588開(kāi)發(fā)板外接的MIPI屏幕上看到應(yīng)用界面。在1280*800的預(yù)覽分辨率下，應(yīng)用程序能夠達(dá)到約15FPS的運(yùn)行速度，表現(xiàn)令人滿(mǎn)意。