阿里MNN支持華為NPU，優(yōu)化MNN的性能和精度問題
今天上午據(jù)軟件綠色聯(lián)盟消息，阿里MNN已經(jīng)接入華為 HiAI生態(tài)，正式支持華為NPU。
據(jù)了解，阿里MNN為Mobile Neural Network，是阿里巴巴淘系技術(shù)部開源的端側(cè)推理引擎，目前已覆蓋淘寶、天貓、優(yōu)酷和UC等20多個(gè)手機(jī)應(yīng)用，每天穩(wěn)定運(yùn)行超過500億次，已經(jīng)接受了兩屆“雙11”的考驗(yàn)。
官方表示，當(dāng)App功能日益強(qiáng)大時(shí)，性能和精度的矛盾就逾顯尖銳；官方表示利用HiAI Foundation芯片能力開放，阿里MNN快速轉(zhuǎn)化和遷移已有模型，并借助異構(gòu)調(diào)度和NPU加速，大幅提升應(yīng)用算力和能效比，可以優(yōu)化MNN的性能和精度問題。比如會(huì)加快以圖搜圖的搜索速度，耗電方面也會(huì)降低；此外，掃商家Logo也是運(yùn)用了此功能。
責(zé)任編輯：gt
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
華為
+關(guān)注
關(guān)注
215文章
34258瀏覽量
250981 -
阿里
+關(guān)注
關(guān)注
6文章
433瀏覽量
32792
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
如何優(yōu)化SOC芯片性能
優(yōu)化SOC（System on Chip，系統(tǒng)級(jí)芯片）芯片性能是一個(gè)復(fù)雜而多維的任務(wù)，涉及多個(gè)方面的優(yōu)化策略。以下是一些關(guān)鍵的優(yōu)化措施： 一、架構(gòu)設(shè)計(jì)
如何優(yōu)化FPGA設(shè)計(jì)的性能
優(yōu)化FPGA（現(xiàn)場(chǎng)可編程門陣列）設(shè)計(jì)的性能是一個(gè)復(fù)雜而多維的任務(wù)，涉及多個(gè)方面和步驟。以下是一些關(guān)鍵的優(yōu)化策略： 一、明確性能指標(biāo) 確定需求 ：首先，需要明確FPGA設(shè)計(jì)的
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽
在 GPU 中的應(yīng)用歷史
第9章 張量處理器設(shè)計(jì)
9.1 張量的定義
9.2 脈動(dòng)陣列計(jì)算單元
9.3 Volta 架構(gòu)引入張量核心
9.4 華為異騰Ascend910NPU芯片
第 10 章
發(fā)表于 10-15 22:08
什么是NPU？什么場(chǎng)景需要配置NPU？
在人工智能（AI）技術(shù)如火如荼的今天，NPU神經(jīng)處理單元（Neural Processing Unit）作為一種新興的硬件加速器，正在成為ARM主板配置中的新寵。與傳統(tǒng)的CPU和GPU相比，NPU在
NXP推出集成NPU的MCU，支持AI邊緣設(shè)備！MCU實(shí)現(xiàn)AI功能的多種方式
旨在顯著節(jié)省功耗，可在邊緣端提供高達(dá)172倍的AI加速。 ? MCU 集成NPU 支持AI 功能 ? 恩智浦推出的這款i.MX RT700內(nèi)部集成了恩智浦自研的eIQ Neutron NPU，這是一種
寶礫微25V雙口充電管理高性能MCU支持PD協(xié)議
12-bit高精度ADC
☆ 內(nèi)置NTC檢測(cè)電路* 多重保護(hù)功能、高可靠性
☆ 輸出過壓、欠壓保護(hù)☆ 輸出過流、短路保護(hù)
☆ 過溫保護(hù)
☆ CC1、CC2、DP、DM支持30V耐壓* 工作范圍
☆ 工作電壓
發(fā)表于 09-24 10:33
名單公布！【書籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
和像素統(tǒng)一的G80到現(xiàn)在重金難求的H100；AMD的Zen系列CPU和RDNA系列GPU兩線作戰(zhàn)；中國(guó)的高性能計(jì)算芯片逐步獲得更多TOP500排名；華為Ascend 910 NPU芯片也成為AI時(shí)代
發(fā)表于 09-02 10:09
基于RK3588的NPU案例分享！6T是真的強(qiáng)！
設(shè)計(jì)能夠?qū)崿F(xiàn)高效的神經(jīng)網(wǎng)絡(luò)推理計(jì)算。這使得RK3588在圖像識(shí)別、語音識(shí)別、自然語言處理等人工智能領(lǐng)域有著極高的性能表現(xiàn)。此外，RK3588的NPU還支持多種學(xué)習(xí)框架，包括TensorFlow
發(fā)表于 07-17 10:55
芯品# 物聯(lián)網(wǎng)市場(chǎng)性能最高的 NPU
提高數(shù)據(jù)隱私和安全性。 Arm 的 Ethos NPU 如何增強(qiáng)邊緣和端點(diǎn)的 AI 性能？ 多年來，Arm 一直在開發(fā)邊緣 AI 加速器，以支持對(duì)邊緣和端點(diǎn)推理工作負(fù)載日益增長(zhǎng)的需求。通過 Arm 的 Ethos-U55 和 E
NPU和AI TOPS是什么？它們有哪些性能？
可運(yùn)行AI模型的性能、準(zhǔn)確性和效率。如今，TOPS(每秒萬億次運(yùn)算)是衡量處理器AI性能的主要方式之一。TOPS是基于處理器所需的架構(gòu)和頻率，衡量處理器潛在AI推理峰值性能的方法，比如神經(jīng)網(wǎng)絡(luò)處理器(
RK3576開發(fā)板NPU激發(fā)無限創(chuàng)新！體驗(yàn)6TOPS強(qiáng)勁性能的奇妙之旅
、自然語言處理等人工智能領(lǐng)域有著極高的性能表現(xiàn)。 此外，RK3576/RK3588 的NPU還支持多種學(xué)習(xí)框架，包括TensorFlow，Pytorch、Caffe、MXNet等在人工智能開發(fā)中流行的深度學(xué)習(xí)框架，能夠?yàn)殚_發(fā)者
阿里云多云成本優(yōu)化暫停新用戶購買與續(xù)訂
阿里云計(jì)劃在 2024 年將多云成本運(yùn)營(yíng)功能與阿里云云遷移中心（Cloud Migration Hub）、阿里云智能顧問（Intelligent Advisor）整合，繼續(xù)提供多云賬單分析和上云映射、
基于RK3588的NPU案例分享！6T是真的強(qiáng)！
等人工智能領(lǐng)域有著極高的性能表現(xiàn)。 ? 此外，RK3588的NPU還支持多種學(xué)習(xí)框架，包括TensorFlow 、PyTorch、Caffe、MXNet等在人工智能開發(fā)中流行的深度學(xué)習(xí)框架，能夠
微軟畫圖即將支持NPU，Windows內(nèi)置應(yīng)用AI功能持續(xù)優(yōu)化
神經(jīng)網(wǎng)絡(luò)處理單元（NPU），作為一款Win11筆記本上的專屬硬件組件，主要承擔(dān)AI及機(jī)器學(xué)習(xí)任務(wù)處置。相較于云服務(wù)或通CPU，NPU能有效提升本地設(shè)備的AI任務(wù)處理能力。
MySQL性能優(yōu)化方法
MySQL 性能優(yōu)化是一項(xiàng)關(guān)鍵的任務(wù)，可以提高數(shù)據(jù)庫的運(yùn)行速度和效率。以下是一些優(yōu)化方法，包括具體代碼和詳細(xì)優(yōu)化方案。
工商網(wǎng)監(jiān)
評(píng)論