HUAWEI HiAI Foundation的奇妙旅程

從2017年開始，華為將端側(cè)AI算力的概念帶入了產(chǎn)業(yè)界。彼時，還有很多人討論端側(cè)AI計算是否有必要，是否具備前景等等問題。一轉(zhuǎn)眼四年過去了，端側(cè)的AI處理能力已經(jīng)成為每家芯片廠商、移動終端廠商的必備能力，而AI算力也成為視頻、游戲、社交、旅行等主流品類開發(fā)者的必修課。

四年時間，證明了端側(cè)AI的必要性毋庸置疑，同時也展示了這一領(lǐng)域在平臺、技術(shù)、生態(tài)等方向的進(jìn)化。為了讓開發(fā)者更好地調(diào)用端側(cè)AI算力、算子，華為在跨入端側(cè)AI領(lǐng)域的同時也發(fā)布了開發(fā)使能平臺HUAWEI HiAI Foundation。在消費者開始熟悉AI應(yīng)用，開發(fā)者開始依賴AI技術(shù)的同時，HUAWEI HiAI Foundation也沒有停止過進(jìn)化，不斷給開發(fā)者帶來一個又一個智能驚喜。

在科技領(lǐng)域大家有一個共識：我們經(jīng)常會高估一瞬間的變化，卻低估長時間的變化。理解一場技術(shù)變革不應(yīng)該聚焦于一點，而應(yīng)該俯視長段時間中連續(xù)、繼發(fā)的變化。借助HUAWEI HiAI Foundation的發(fā)展之旅，我們可以看到AI開發(fā)需求與技術(shù)更新的真實情況，透視一場端側(cè)AI的進(jìn)化論。

在跨入端側(cè)AI第五年的此刻，開發(fā)者與HUAWEI HiAI Foundation的奇妙旅程才剛剛開始。

端側(cè)AI已長成：開發(fā)需求的進(jìn)化

幾年前，大部分開發(fā)者對AI能力還很陌生，對AI更多是探索與開辟。如今AI技術(shù)已經(jīng)深入應(yīng)用開發(fā)的方方面面，成為了一種不可或缺的能力。不斷積累開發(fā)經(jīng)驗，達(dá)成開發(fā)共識之后，開發(fā)者對AI算力與技術(shù)賦能的需求也發(fā)生了眾多變化。開發(fā)需求的變化，導(dǎo)致開發(fā)平臺與技術(shù)供給的變化，一場端側(cè)AI進(jìn)化論就此展開。

綜合來看，我們可以看到端側(cè)AI的開發(fā)需求出現(xiàn)了以下幾種顯著的升級。

1.產(chǎn)業(yè)關(guān)切點的變化：AI技術(shù)目前在應(yīng)用開發(fā)中的指向愈發(fā)明確，重點行業(yè)逐漸凸顯。視頻超分、游戲高清化等領(lǐng)域成為關(guān)注重點，開發(fā)者在這些需要AI重度參與的領(lǐng)域需求與痛點也愈發(fā)明顯。

2.模型結(jié)構(gòu)升級：伴隨著需求的升級，開發(fā)者對模型結(jié)構(gòu)的優(yōu)化升級需求不斷加強。如何優(yōu)化模型結(jié)構(gòu)，讓復(fù)雜強大的模型跑在端側(cè)成為了開發(fā)者共同關(guān)注的話題。

3.更新速度有要求：AI開發(fā)不斷發(fā)生著變化，開發(fā)者對端側(cè)AI能力的升級更新速度也有了新的要求。端側(cè)能力更新原本比較緩慢的情況已經(jīng)不適應(yīng)開發(fā)者需求。

4.賦能方式多元化、生態(tài)化：開發(fā)者已經(jīng)習(xí)慣了云側(cè)、架構(gòu)側(cè)的AI開發(fā)者社區(qū)化、生態(tài)化，但在端側(cè)開發(fā)者賦能與生態(tài)方案還有著明顯的不足。如何在端側(cè)接通更多元的開發(fā)賦能渠道，也是開發(fā)者的重要痛點。

如今，開發(fā)者需要借助端側(cè)AI探索更廣闊的產(chǎn)業(yè)世界。HUAWEI HiAI Foundation也已經(jīng)推動了端側(cè)AI產(chǎn)業(yè)完成了“三重進(jìn)化”。

軟硬件全面成熟：平臺進(jìn)化

端側(cè)AI的第一重進(jìn)化，體現(xiàn)為平臺的發(fā)展與成熟。HUAWEI HiAI Foundation在賦能方案、產(chǎn)品形態(tài)、重點領(lǐng)域解決方案等層面，都表現(xiàn)出了成熟平臺應(yīng)有的進(jìn)化能力與生態(tài)活力。

從平臺基礎(chǔ)信息上看，我們首先可以看到HUAWEI HiAI Foundation在算子規(guī)模、賦能端口、以及調(diào)用規(guī)模上的成長與變化。量變累積質(zhì)變，從平臺特性上，HUAWEI HiAI Foundation的內(nèi)核也已經(jīng)發(fā)生了深層次變化。

首先，從產(chǎn)品形態(tài)上看，HUAWEI HiAI Foundation與華為的全場景戰(zhàn)略同步進(jìn)化，從支持手機(jī)拓展為全場景開發(fā)的AI賦能，更加滿足開發(fā)者的發(fā)展需求與多終端戰(zhàn)略。

從計算能力上看，HUAWEI HiAI Foundation最早是基于NPU的專項算力；在產(chǎn)業(yè)實踐與發(fā)展中，華為發(fā)現(xiàn)很多開發(fā)需求需要協(xié)同計算來實現(xiàn)最好的智能化效果。如今HUAWEI HiAI Foundation可以支持NPU、GPU、CPU的協(xié)同計算、靈活部署，讓更復(fù)雜、具象化的AI開發(fā)需求可以得到有效賦能。

再有我們可以看到，HUAWEI HiAI Foundation在行業(yè)關(guān)注的特定領(lǐng)域有了更具針對性的賦能，并且取得了業(yè)界領(lǐng)先的成果。比如在超分等視頻行業(yè)的關(guān)鍵賽道上實現(xiàn)并保持了業(yè)界最先進(jìn)的賦能能力，構(gòu)建了其他廠商難以超越的優(yōu)勢，并基于具體行業(yè)的優(yōu)勢，孵化了充沛的合作案例與賦能方案。在圖像、視頻、游戲等領(lǐng)域上，HUAWEI HiAI Foundation構(gòu)建了體驗更好、綜合成本更低的端側(cè)AI開發(fā)賦能優(yōu)勢。

在全場景、計算協(xié)同與重點領(lǐng)域等多個賽道上，HUAWEI HiAI Foundation都構(gòu)筑了獨特的平臺優(yōu)勢，而進(jìn)一步來到與開發(fā)者緊密相關(guān)的技術(shù)空間中，HUAWEI HiAI Foundation更是成為了一支獨特的AI畫筆。

提供無可替代的AI創(chuàng)造力：技術(shù)進(jìn)化

端側(cè)AI的第二重進(jìn)化，體現(xiàn)為AI技術(shù)對開發(fā)者的價值加持。開發(fā)者可以將更多原本不可能完成或者很難完成的AI任務(wù)在HUAWEI HiAI Foundation中實現(xiàn)。HUAWEI HiAI Foundation也成為眾多開發(fā)者獨一無二的智能選擇。

HUAWEI HiAI Foundation的技術(shù)賦能思路與其他平臺顯著不同的一點，在于對開發(fā)者業(yè)務(wù)對接需求的支持力度遠(yuǎn)超其他芯片平臺。平臺主動為開發(fā)提供更多服務(wù)，并且盡可能多地獲取開發(fā)者需求和反饋，繼而對HUAWEI HiAI Foudation進(jìn)行持續(xù)優(yōu)化。

這種技術(shù)上達(dá)成的良性循環(huán)，通過頻繁的需求對接、案例合作，以及華為全棧技術(shù)優(yōu)勢的綜合使用，HUAWEI HiAI Foundation構(gòu)筑了更貼近開發(fā)實踐與開發(fā)需求的技術(shù)賦能方案。

從幾個方向上看，HUAWEI HiAI Foundation做到了與開發(fā)者立場、需求、升級路線保持一致，讓AI技術(shù)真正流淌到開發(fā)者的畫布上。

從技術(shù)革新性上看，HUAWEI HiAI Foundation打破了很多端側(cè)AI的技術(shù)瓶頸，并且在實踐中獲得了成功。比如說超分這個重要領(lǐng)域中，開發(fā)者可以與HUAWEI HiAI Foundation合作獲得高強度、低成本的超分升級，為視頻提供更優(yōu)秀畫質(zhì)。

HUAWEI HiAI Foundation可以有效幫助開發(fā)者降低寬帶的使用成本，以及云端超分帶來的流量成本，從而在端側(cè)實現(xiàn)高質(zhì)量，且不依賴網(wǎng)絡(luò)與云端算力的超分效果。這一能力發(fā)布之后，在業(yè)界很快引起了震動。優(yōu)酷、華為視頻、虎牙、愛奇藝等視頻應(yīng)用紛紛與HUAWEI HiAI Foundation建立了超分合作。

在視頻超分合作中，HUAWEI HiAI Foundation可以幫助視頻類應(yīng)用實現(xiàn)超分計算的優(yōu)化擬合，支持視頻平臺使用更大、更復(fù)雜的模型，從而提升了用戶的智能體驗。相比較來說，大型平臺類開發(fā)者實現(xiàn)了降低成本，優(yōu)化效果，避免了自研算法的投入與試錯；中小型開發(fā)者則可以實現(xiàn)接入到業(yè)界強大的技術(shù)體驗中，實現(xiàn)體驗升級。

百度輸入法在與HUAWEI HiAI Foundation合作之后，端側(cè)AI調(diào)用相比CPU性能提升25%，計算資源獨占、內(nèi)存節(jié)省22%、功耗降低50%?？焓衷谂cHUAWEI HiAI Foundation的合作中，實現(xiàn)了視頻特效AI功能在端側(cè)的快速部署，性能提升8倍，功耗降低50%，計算精度更優(yōu)。美顏在與HUAWEI HiAI Foundation合作后，圖像分割業(yè)務(wù)的性能提升30%，功耗降低50%。愛奇藝、優(yōu)酷等視頻平臺超分業(yè)務(wù)HUAWEI HiAI Foundation的加持下，超分辨率性能最高可以提升 80%，功耗最高可降低 45%。

這些數(shù)字表明，技術(shù)上的創(chuàng)新性與領(lǐng)先性，讓HUAWEI HiAI Foundation成為了一支獨一無二的畫筆。當(dāng)開發(fā)者想要繪畫AI的時候，不必有后顧之憂，也不用浪費大量開發(fā)成本。無縫接入HUAWEI HiAI Foundation就是最好的邂逅。

端云協(xié)同與高度兼容：生態(tài)進(jìn)化

端側(cè)AI的第三重進(jìn)化，體現(xiàn)為平臺兼容性與協(xié)同性不斷增強，形成了具有極強包容力的生態(tài)環(huán)境。端側(cè)AI的社區(qū)化與生態(tài)化，正在由此開啟。

在平臺優(yōu)勢不斷累積，技術(shù)進(jìn)化保持高效之后，HUAWEI HiAI Foundation更加關(guān)注生態(tài)上的完整性與開放性。一方面，HUAWEI HiAI Foundation構(gòu)筑了與國內(nèi)主要AI平臺、互聯(lián)網(wǎng)廠商之間有效的合作機(jī)制與合作關(guān)系，搭建了頭部玩家共同認(rèn)可的AI賦能平臺。另一方面，HUAWEI HiAI Foundation開展了緊鑼密鼓的生態(tài)化、社區(qū)化建設(shè)，讓更多中小型開發(fā)者準(zhǔn)確找到自己合適的生態(tài)賦能方案，低成本、高質(zhì)量接入端側(cè)AI。

在頭部玩家的合作中我們可以看到HUAWEI HiAI Foundation的兩種代表性生態(tài)合作模式。在平臺合作兼容上，HUAWEI HiAI Foundation與算法框架BAT的算法平臺進(jìn)行了有效對接，讓開發(fā)者可以無感接入HUAWEI HiAI Foundation，從而實現(xiàn)了平臺生態(tài)的互惠共享。

從技術(shù)兼容性上看，HUAWEI HiAI Foundation能夠支持300+通用算子，并且兼容國內(nèi)外主流AI框架。整體兼容方案已經(jīng)相當(dāng)成熟，無論開發(fā)者使用哪個平臺的框架，都可以無縫調(diào)取和使用HUAWEI HiAI Foundation的能力，獲得充沛的技術(shù)支持。對于擁有自身框架的廠商來說，他們可以在框架層對接HUAWEI HiAI Foundation的IR API，在麒麟平臺使能NPU加速；而沒有框架的開發(fā)者則可以直接使用離線DDK完成AI應(yīng)用的開發(fā)，不需要花費兼容成本。

另一方面，HUAWEI HiAI Foundation打破了原本端側(cè)技術(shù)演進(jìn)相對較緩的特點，實現(xiàn)了端側(cè)技術(shù)與開發(fā)者需求協(xié)同演進(jìn)。通過端云協(xié)同方案創(chuàng)新，HUAWEI HiAI Foundation將快速算法演進(jìn)相關(guān)能力放在了云端，開發(fā)者可以實時接入最新的能力而不用等待端側(cè)升級，從而滿足了端側(cè)AI快速進(jìn)化的需求。

端云協(xié)同的升級模式，有效提升了HUAWEI HiAI Foundation與開發(fā)者之間的溝通、賦能效率，讓端側(cè)AI的軟件優(yōu)化實現(xiàn)了提升，滿足開發(fā)者快速升級、高效提升技術(shù)能力的主要訴求，也讓開發(fā)者的AI能力可以更廣泛適配老機(jī)型，拓展了開發(fā)市場，提升了用戶體驗。

在社區(qū)化建設(shè)中，HUAWEI HiAI Foundation上線了Model Zoo。這一平臺的目標(biāo)通過社區(qū)化形態(tài)，幫助開發(fā)者解決端側(cè)模型優(yōu)化設(shè)計的痛點。從模型優(yōu)化功能出發(fā)，Model Zoo未來還將實現(xiàn)模型打分、社區(qū)互助等功能，最終希望構(gòu)建端側(cè)AI的獨特生態(tài)。

端側(cè)AI，突破奇點

不久之前，HUAWEI HiAI Foundation已經(jīng)突破了日調(diào)用量超過600億次的產(chǎn)業(yè)“奇點”。這個數(shù)字意味著，海量智慧業(yè)務(wù)每天在HUAWEI HiAI Foundation的框架下運行，這一平臺已經(jīng)覆蓋了大量開發(fā)者與開發(fā)需求。而這些產(chǎn)業(yè)需求也不斷回饋給HUAWEI HiAI Foundation團(tuán)隊，成為平臺進(jìn)一步升級進(jìn)化的動力。

從未來趨勢上看，AI計算是消費終端開發(fā)的必然需求，也是開發(fā)者最看重的進(jìn)化方向。而AI計算不出端，從根本上保護(hù)用戶隱私安全也是不變的大勢所趨。在HUAWEI HiAI Foundation的努力下，端側(cè)AI計算已經(jīng)實現(xiàn)了開發(fā)成本不斷降低、產(chǎn)業(yè)優(yōu)勢愈發(fā)明顯。

日調(diào)用600億次，可以說是上述所有HUAWEI HiAI Foundation推動的平臺進(jìn)化、技術(shù)進(jìn)化、生態(tài)進(jìn)化的成果。

華為開始推動端側(cè)AI發(fā)展時，業(yè)界其實有不少的觀望與懷疑；到如今，端側(cè)AI已經(jīng)成為了全球移動芯片與智能終端產(chǎn)業(yè)的共識。其中，HUAWEI HiAI Foundation對“無人區(qū)”的探索，對產(chǎn)業(yè)的引領(lǐng)，對生態(tài)的建設(shè)可謂功不可沒。端側(cè)AI不斷進(jìn)化，并且證明了持續(xù)進(jìn)化的可能性，對于整個移動產(chǎn)業(yè)來說有著舉足輕重的意義。

對移動終端產(chǎn)業(yè)而言，有愈來愈多的廠商重視AI，重視自研技術(shù)，在同質(zhì)化競爭中找到了一條獨立發(fā)展的新路。

對于芯片平臺而言，積極推動軟硬件協(xié)同創(chuàng)新，并且與應(yīng)用開發(fā)緊密合作，成為了近幾年新的趨勢。其中HUAWEI HiAI Foundation的引領(lǐng)作用不容小覷。

對于開發(fā)者來說，AI不再僅僅是簡單的識別能力調(diào)用，而是變成了可以全面提升應(yīng)用體驗，讓智能無處不在的新端口。他們知道，更多可能性可以在AI、在硬件側(cè)，在HUAWEI HiAI Foundation找到答案。

如果說，從2017年開始HUAWEI HiAI Foundation的五年是“一五計劃”，從端側(cè)AI的從無到有；那么五年到十年，“二五計劃”或許意味著端側(cè)AI由規(guī)模化效應(yīng)走向強盛、繁榮與普惠。

一場奇妙的開發(fā)之旅尚未結(jié)束，端側(cè)AI的十年之約還在履行。

這部“端側(cè)AI進(jìn)化論”已經(jīng)有了邏輯清晰、目標(biāo)明確的開頭，接下來的進(jìn)化故事，不僅掌握在平臺本身，更在眾多開發(fā)者手中筆中。