Tengine全力投入到AI芯片工作中,助力解決開發(fā)者的一系列問題

近兩個月來，由于國際局勢導致海思的芯片供應鏈出現(xiàn)問題，海思的安防芯片缺口逐漸擴大，從華南地區(qū)逐步擴散至其他城市，從高端型號延伸到中低端型號，價格一路飆漲，能否有持續(xù)穩(wěn)定的貨源成為了從業(yè)者的心頭病。

算法模型迅速、高效化的工業(yè)化落地，是當前行業(yè)的面臨的一大問題。原本學術界與工業(yè)界就存在較大 GAP，加上 NPU 芯片的突然興起，說是為了提高工業(yè)界的效率，事實上很多常規(guī)的的學術界模型都較難快速部署到 NPU 芯片上。本質(zhì)原因是芯片產(chǎn)品的迭代周期往往以年為計數(shù)單位，且NPU屬于低可編程性ASIC芯片，很多NPU沒有較完整的指令集，直接對寄存器進行操作；而學術界的各種 Operator 是以季度為單位在更新，因此模型算子不支持的問題在NPU部署場景預期會長期存在，現(xiàn)在業(yè)界對NPU部署很多基于較為傳統(tǒng)的模型或者基于NPU可支持的操作選型模型。

為了解決AI邊緣應用開發(fā)部署遇到的真實問題，OPEN AI LAB的邊緣AI推理框架Tengine團隊今年全力投入到賦能 AI 芯片的工作中，打通從算法到AI芯片部署的環(huán)節(jié)，助力解決開發(fā)者自行適配難、效率低、性能差的問題。

Tengine團隊也在今年八月開始了對RV1109/RV1126的適配支持，目前Tengine已經(jīng)完美適配 RV1109/RV1126 芯片。Tengine 對RV1109/1126的適配做到了算子級的封裝調(diào)度，框架自動對底層算力資源進行調(diào)度，包括NPU、CPU用于神經(jīng)網(wǎng)絡推理以及2D圖形加速用于神經(jīng)網(wǎng)絡圖片前后處理。
責任編輯：YYX