華為全棧全場(chǎng)景AI架構(gòu)和應(yīng)用

1月14日，2019深圳機(jī)器人創(chuàng)新與發(fā)展論壇上，來(lái)自華為公司企業(yè)業(yè)務(wù)全球marketing副總裁李俊朋先生為我們帶來(lái)主題為《華為全棧全場(chǎng)景AI架構(gòu)和應(yīng)用》的主題演講。

華為全棧全場(chǎng)景AI架構(gòu)和應(yīng)用

李俊朋，現(xiàn)任華為企業(yè)業(yè)務(wù)全球Marketing副總裁。擁有十幾年ICT領(lǐng)域工作經(jīng)驗(yàn)（包括近10年國(guó)際市場(chǎng)經(jīng)驗(yàn)），擔(dān)任跨國(guó)系統(tǒng)部VP，區(qū)域VP等多個(gè)重要職位。2018年起擔(dān)任華為企業(yè)業(yè)務(wù)全球Marketing副總裁，負(fù)責(zé)企業(yè)業(yè)務(wù)市場(chǎng)管理，以及人工智能等新ICT領(lǐng)域Marketing工作。

▲華為公司企業(yè)業(yè)務(wù)全球marketing副總裁 李俊朋

大家好，前面的各位教授和各位專家講得非常好，非常深入，我代表華為企業(yè)市場(chǎng)來(lái)給大家做應(yīng)用方面的匯報(bào)，我匯報(bào)分為兩個(gè)部分：華為全棧全場(chǎng)景AI架構(gòu)與方案、華為AI應(yīng)用案例。

我們講的AI偏技術(shù)和產(chǎn)業(yè)比較多，還有一大部分是偏應(yīng)用的，AI應(yīng)用到哪些領(lǐng)域，給企業(yè)帶來(lái)哪些價(jià)值，這也是非常重要的方向，所以，我今天的講解包含這兩部分的內(nèi)容。希望華為的AI架構(gòu)和應(yīng)用案例，能為做AI產(chǎn)業(yè)的企業(yè)家們提供例子，為產(chǎn)業(yè)做大提供方向借鑒。

首先，我們?nèi)A為對(duì)企業(yè)做了一個(gè)分析，基于業(yè)界的一些報(bào)告，對(duì)各行業(yè)AI的發(fā)展情況有個(gè)大致的了解。我們可以看到圖的右上角的幾個(gè)行業(yè)，這幾個(gè)行業(yè)代表了數(shù)字化程度比較高的行業(yè)，也就是說(shuō)數(shù)字化轉(zhuǎn)型做得比較成熟的企業(yè)，同時(shí)它在AI的應(yīng)用程度和深度也比較好。同時(shí)以BAT為代表的一些代表企業(yè)，還有一些銀行等等，這些企業(yè)AI應(yīng)用方面也做得比較深入。目前高速發(fā)展還有一些領(lǐng)域，比如零售、機(jī)場(chǎng)，還有一些電力、教育、化工這些產(chǎn)業(yè)都會(huì)逐漸在AI上增加一些應(yīng)用。我們目前看到一些數(shù)字，企業(yè)總體只有4%在應(yīng)用AI，以零售為例，僅2%，相信未來(lái)會(huì)有一些增長(zhǎng)。各大國(guó)都在發(fā)布AI戰(zhàn)略，我相信這里面的人工智能制造戰(zhàn)略，比如說(shuō)我們國(guó)家新一代人工智能三年行動(dòng)計(jì)劃，以五年為周期，從2020年開(kāi)始到2030年有兩個(gè)五年計(jì)劃對(duì)AI進(jìn)行大力的扶持，其次美國(guó)、日本對(duì)AI戰(zhàn)略重視程度也很高，在AI的整個(gè)發(fā)展里面我們做了一些分析，中國(guó)排名第二，不管是企業(yè)數(shù)量、投資金額、AI人才和專利等相關(guān)數(shù)量來(lái)說(shuō)，中國(guó)排第二，美國(guó)排第一，這里面相對(duì)來(lái)說(shuō)，靠前的是中國(guó)和歐美，其次是日本。

從華為的視角來(lái)看，AI發(fā)展和面臨的挑戰(zhàn)還很多。為了把AI從實(shí)驗(yàn)室加快應(yīng)用到工業(yè)等領(lǐng)域，我們認(rèn)為需要推動(dòng)在以下十個(gè)方面進(jìn)行改變：

第一，從訓(xùn)練時(shí)間上來(lái)說(shuō)，過(guò)去訓(xùn)練一個(gè)AI可能需要數(shù)日或者數(shù)月，現(xiàn)在很多產(chǎn)品，包括邊緣和智能設(shè)備，僅需要幾分鐘或者幾秒鐘就能訓(xùn)練起來(lái)。

第二，以前算力稀缺且昂貴，現(xiàn)在是經(jīng)濟(jì)的。

第三，過(guò)去AI主要體現(xiàn)在云上面，有少量是在邊緣?，F(xiàn)在開(kāi)始看到一個(gè)趨勢(shì)，就是端的智能化會(huì)大大加速，從聯(lián)接的方面是無(wú)所不在的聯(lián)接，從智能方面是無(wú)所不及的智能，這是兩個(gè)核心支柱。

第四，算法向數(shù)據(jù)高效、能源高效、安全可解釋發(fā)展。

第五，沒(méi)有人工就沒(méi)有智能，原來(lái)是人工做數(shù)據(jù)標(biāo)注的，現(xiàn)在我們可以通過(guò)自動(dòng)化和半自動(dòng)化工具完成。

第六，模擬系統(tǒng)考試優(yōu)秀向工業(yè)級(jí)工作優(yōu)秀轉(zhuǎn)變，美國(guó)大學(xué)的教授，他提了一點(diǎn)，我們有一些模型和算法做出來(lái)以后，在實(shí)驗(yàn)室或者在比賽里面是比較厲害的，得了高分?jǐn)?shù)，但是在實(shí)際場(chǎng)景里面的分值會(huì)大幅下滑，從模型優(yōu)秀到工業(yè)級(jí)優(yōu)秀需要努力。

第七，現(xiàn)在算法非實(shí)時(shí)更新，以后要做到實(shí)時(shí)的更新。

第八，當(dāng)前AI與其他技術(shù)聯(lián)接不充分，主要指一些物聯(lián)網(wǎng)的技術(shù)。

第九，AI當(dāng)前是一項(xiàng)高級(jí)技能專家的工作，我們希望通過(guò)一站式平臺(tái)，將高要求的一個(gè)專家系統(tǒng)變成一個(gè)普通工程師也可以用的，這點(diǎn)非常重要。

最后一點(diǎn)需要改變的是數(shù)據(jù)科學(xué)家的稀缺，我們希望通過(guò)學(xué)術(shù)界產(chǎn)業(yè)界全體努力，數(shù)據(jù)科學(xué)家、領(lǐng)域?qū)＜遥约皵?shù)據(jù)科學(xué)工程師可以協(xié)同起來(lái)，致力于AI的發(fā)展。

接下來(lái)是華為AI發(fā)展戰(zhàn)略，其實(shí)剛才媒體也問(wèn)了我一些問(wèn)題，這里系統(tǒng)講一下：

第一，投資的領(lǐng)域，在計(jì)算機(jī)視覺(jué)處理等方面，華為將進(jìn)行長(zhǎng)期的技術(shù)研究投入。

第二，打造全棧方案。這個(gè)全棧方案已經(jīng)講了，面向未來(lái)的趨勢(shì)，我們解決向邊緣和端的延伸，從過(guò)去只在云一個(gè)范圍的計(jì)算，變成到未來(lái)從云到整個(gè)邊緣和終端的端到端的一個(gè)方案。

第三，AI人才培養(yǎng)。華為加入了業(yè)界主要AI產(chǎn)業(yè)聯(lián)盟，也做了一些自己的貢獻(xiàn)，同時(shí)我們還和一些科研機(jī)構(gòu)、高校的合作，比如中科院、中科大，以及加州伯克利分校等進(jìn)行合作和人才培養(yǎng)。未來(lái)三年，華為公司計(jì)劃投入十億人民幣來(lái)推動(dòng)AI人才的培養(yǎng)。最后兩點(diǎn)，華為打算把AI用到什么地方，其實(shí)有兩個(gè)層面：

第一，內(nèi)部效率的提升。華為業(yè)務(wù)遍布全球100多個(gè)國(guó)家，我們整個(gè)供應(yīng)鏈和合同的處理，包括我們員工的很多內(nèi)部事務(wù)將逐步用AI來(lái)處理，把一些大量重復(fù)人工勞動(dòng)給剪掉，這是內(nèi)部；對(duì)外是解決方案的增強(qiáng)，所有方案面向企業(yè)，我是代表企業(yè)來(lái)說(shuō)，所有企業(yè)的解決方案和產(chǎn)品都會(huì)把AI的能力注入進(jìn)去，為客戶帶來(lái)更多的價(jià)值。

我們來(lái)看一下華為的全棧全場(chǎng)景的解決方案。從場(chǎng)景上來(lái)說(shuō)，我們的愿景是全場(chǎng)景的布局，包括公有云、私有云，邊緣計(jì)算，以及各種行業(yè)物聯(lián)網(wǎng)終端和消費(fèi)者終端等部署環(huán)境。包括手機(jī)和智能可穿戴設(shè)備，從場(chǎng)景來(lái)說(shuō)是全場(chǎng)景的。全棧方面，由下至上也是包含全場(chǎng)景的技術(shù)，現(xiàn)在業(yè)界炒得比較熱的是我們的AI昇騰芯片，今年已發(fā)布兩個(gè)芯片，一是昇騰310，另外是一個(gè)是昇騰910，此外，還有三個(gè)比較重要的地方，第一個(gè)就是CAAN就是基于神經(jīng)網(wǎng)絡(luò)開(kāi)發(fā)的芯片算子開(kāi)發(fā)庫(kù)，再上一層就是端邊云統(tǒng)一的訓(xùn)練和推理框架，這個(gè)我們今年也會(huì)出現(xiàn)，我們叫Mind spore，上面是我們一站式開(kāi)發(fā)平臺(tái)ModelArts，可以為開(kāi)發(fā)者提供從數(shù)據(jù)標(biāo)注、建模、訓(xùn)練及AI應(yīng)用開(kāi)發(fā)的全流程的服務(wù)，過(guò)去只有少量的專家才可以開(kāi)發(fā)AI，現(xiàn)在普通程序員就可以進(jìn)行輕松實(shí)現(xiàn)。這里面大概介紹一下華為昇騰AI芯片，包括310和910，昇騰310是面向邊緣計(jì)算的場(chǎng)景非常適合的AI SoC，提供極致高效計(jì)算和低功耗，單芯片算力， 高達(dá)16TOPS，功耗僅8W；910是全球已發(fā)布的單芯片計(jì)算密度最大的芯片，用在分布式大規(guī)模訓(xùn)練場(chǎng)景，從左到右是從藍(lán)牙耳機(jī)到智能手表，再到邊緣計(jì)算，各種型號(hào)的芯片都有，我們以TOPS/W單位能效這個(gè)指標(biāo)來(lái)衡量芯片性能，比如說(shuō)我們?cè)谏虾C大會(huì)的時(shí)候，使用華為昇騰310，與業(yè)界同類芯片進(jìn)行一個(gè)蝴蝶圖片識(shí)別性能的對(duì)比，昇騰310的處理速度快了很多。華為昇騰AI芯片是基于華為自己的達(dá)芬奇架構(gòu)，達(dá)芬奇架構(gòu)有幾個(gè)特點(diǎn)：一是可擴(kuò)展計(jì)算，芯片的計(jì)算單元是可以縱向擴(kuò)展的；二是可擴(kuò)展內(nèi)存，這個(gè)與計(jì)算機(jī)馮諾依曼架構(gòu)不太一樣的；三是片上擴(kuò)展，基于LSU可以擴(kuò)展。除此之外，我們昇騰系列芯片的算力和功耗涵蓋了非常大的范圍，適合端到端的應(yīng)用，我們看算力的范圍是1000萬(wàn)倍；功耗方面，從藍(lán)牙耳機(jī)到昇騰910的覆蓋范圍20萬(wàn)倍的差別，從1毫瓦到200毫瓦的范圍都有，這些范圍基于達(dá)芬奇架構(gòu)能提供用戶的便利是什么呢？就是只需要一次軟件開(kāi)發(fā)，就可以橫跨端邊云進(jìn)行部署，很少有其他廠家的芯片架構(gòu)可以覆蓋這么大的范圍，因此，無(wú)論是算法的遷移還是搬運(yùn)，就會(huì)快非常多，一次AI開(kāi)發(fā)可以覆蓋多數(shù)的場(chǎng)景。

這里是MindSpore，我們看看和業(yè)界的不同，有一個(gè)循環(huán)，循環(huán)以后是從云推送到邊緣和端的，一方面是依賴推送網(wǎng)絡(luò)；另一方面跟芯片的統(tǒng)一架構(gòu)是相關(guān)的，統(tǒng)一架構(gòu)下可以實(shí)現(xiàn)比較快的推送，同時(shí)在協(xié)作訓(xùn)練和推理方面，從端到邊緣，到云的反饋也會(huì)更容易、更快處理。這是MindSpore框架的特點(diǎn)。另外，我們介紹下，更快的、普惠的開(kāi)發(fā)平臺(tái)，什么叫普惠呢？一些零代碼基礎(chǔ)的初級(jí)開(kāi)發(fā)師或者中級(jí)工程師都可以在這個(gè)平臺(tái)上進(jìn)行開(kāi)發(fā)，這個(gè)平臺(tái)上華為有自己核心的分布式數(shù)據(jù)庫(kù)，這個(gè)與以前是不同的，可以實(shí)現(xiàn)：

第一，可以結(jié)合大數(shù)據(jù)技術(shù)進(jìn)行數(shù)據(jù)自動(dòng)篩選和標(biāo)注。

第二，針對(duì)AI結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)，可以直接面向AI應(yīng)用儲(chǔ)存數(shù)據(jù)，在數(shù)據(jù)處理和AI開(kāi)發(fā)效率方面都有極大的提升。最近，我們?cè)谒固垢AWN Bench權(quán)威基準(zhǔn)的圖像識(shí)別訓(xùn)練測(cè)試排名中，華為云 ModelArts用時(shí)10分28秒，拿下最新全球第一，比亞馬遜節(jié)省44%時(shí)間（同樣條件下，亞馬遜在Fast.ai測(cè)試的最好成績(jī)是18分鐘）。

以上是華為公司全棧全場(chǎng)景AI架構(gòu)和方案的介紹。

▲華為公司企業(yè)業(yè)務(wù)全球marketing副總裁 李俊朋

第二部分更為重要，AI能用到什么樣的企業(yè)場(chǎng)景，如何切實(shí)幫助企業(yè)提升生產(chǎn)效率和智能化水平，我這里基于華為的一些經(jīng)驗(yàn)進(jìn)行分享。主要包括比較大的行業(yè)，比如說(shuō)金融、交通、安防、物流、園區(qū)等五大場(chǎng)景的AI應(yīng)用實(shí)踐。

首先，講下AI在金融領(lǐng)域的應(yīng)用，一是圖象識(shí)別，圖象識(shí)別應(yīng)用于銀行取款的例子比較多，比如人臉識(shí)別轉(zhuǎn)賬這些已經(jīng)有實(shí)際應(yīng)用；二是自然語(yǔ)言的處理。舉兩個(gè)例子，廣大的互聯(lián)網(wǎng)領(lǐng)域有大量的文本數(shù)據(jù)，文本數(shù)據(jù)有企業(yè)、政府招投標(biāo)的公告，這些公告可以通過(guò)自然語(yǔ)言處理技術(shù)進(jìn)行一些AI自動(dòng)化分析，分析哪些企業(yè)中標(biāo)，從而發(fā)現(xiàn)對(duì)公業(yè)務(wù)的商機(jī)。還有一部分是針對(duì)企業(yè)和個(gè)人的風(fēng)險(xiǎn)的分析，比如說(shuō)，有一些法院的判決書(shū)出來(lái)，可以通過(guò)自動(dòng)分析系統(tǒng)，分析某某企業(yè)或者某某人存在風(fēng)險(xiǎn)的，針對(duì)這些對(duì)象的貸款業(yè)務(wù)可以進(jìn)行更好的風(fēng)險(xiǎn)規(guī)避。目前招行已經(jīng)在這方面有實(shí)踐。

第二個(gè)場(chǎng)景是交通，我們?nèi)ツ昱c深圳交警聯(lián)合創(chuàng)新，獲得世界智慧城市博覽會(huì)第一名的大獎(jiǎng)。通過(guò)創(chuàng)新實(shí)踐，深圳交通的死亡率以及交通堵塞時(shí)間，相比過(guò)去有明顯的下降。我們來(lái)看下小視頻，AI輔助執(zhí)法，通過(guò)智能攝像頭捕捉司機(jī)開(kāi)車期間危險(xiǎn)動(dòng)作，比如開(kāi)車玩手機(jī)，不系安全帶，吸煙等都會(huì)被智能攝像頭捕捉到，并主動(dòng)上傳違法圖片至交警系統(tǒng)并告警，整個(gè)過(guò)程是自動(dòng)完成的。這帶來(lái)什么樣的好處呢？第一個(gè)好處是，執(zhí)法效率的提升，過(guò)去交警每個(gè)月需要比對(duì)900萬(wàn)張照片，現(xiàn)在需要只比對(duì)400萬(wàn)張照片，為什么呢？因?yàn)?0%篩選工作通過(guò)AI來(lái)完成了，從而提高了執(zhí)法的效率。另外一個(gè)案例就是Traffic GO，我們?cè)谌A為坂田基地附近選擇了一些路口，坂田1.5平方公里的范圍內(nèi)車輛出入非常多，因?yàn)楣馊A為員工的車輛都有一萬(wàn)多輛，造成的擁堵非常厲害。Traffic GO上線后，以前是車看燈，現(xiàn)在是燈看車結(jié)合智能攝像頭等多種監(jiān)控手段，哪些路口車流量比較大可以分析出來(lái)，相應(yīng)路口的綠燈時(shí)長(zhǎng)就更長(zhǎng)些，方便車流量大的路口快速疏導(dǎo)。我們算了一下，能提升15%的早晚高峰通行速度，大概可以節(jié)省大家10分鐘的上班時(shí)間。這樣，省出來(lái)的時(shí)間可以快速睡個(gè)懶覺(jué)，這對(duì)廣大的上班族來(lái)說(shuō)是非常寶貴的10分鐘。在機(jī)場(chǎng)實(shí)踐方面，深圳機(jī)場(chǎng)在積極探索未來(lái)機(jī)場(chǎng)的AI極致體驗(yàn)，比方說(shuō)提升靠橋率，結(jié)合AI，靠橋率可以提升10%。我們知道深圳機(jī)場(chǎng)每天起降的航班實(shí)在太多了，每天有1000個(gè)航班起降，運(yùn)營(yíng)壓力非常大。提升10%意味著每天100個(gè)航班的乘客可以不需要乘坐擺渡車，節(jié)省的時(shí)間是相當(dāng)寶貴的。這里智能助導(dǎo)航也可以提升飛機(jī)靠橋的效率。

再有就是安防領(lǐng)域的人工智能應(yīng)用，SDC軟件定義攝像機(jī)，用了華為升騰310芯片，可以同時(shí)捕捉包括人、車、物在內(nèi)的200個(gè)對(duì)象，比普通攝像頭提升了10倍，不管是汽車或者人或物，智能攝像頭可以把識(shí)別到的標(biāo)志物進(jìn)行實(shí)時(shí)的結(jié)構(gòu)化處理，結(jié)構(gòu)化以后存到系統(tǒng)里面，一旦發(fā)現(xiàn)異?？梢园颜掌鸵曨l實(shí)時(shí)提取出來(lái)給交警。在園區(qū)智能方面，我們與萬(wàn)科未來(lái)之城聯(lián)合創(chuàng)新的智能系統(tǒng)，這里有個(gè)小視頻，可以看到，如果不戴安全帽是無(wú)法進(jìn)入工地的，這也只是園區(qū)其中一個(gè)智能的場(chǎng)景。另外，就是與九州通醫(yī)藥流通公司，有了AI智能規(guī)劃以后，揀貨員在倉(cāng)庫(kù)揀貨行走的步數(shù)從30000步減少到20000，效率提升近30%，從而也帶動(dòng)裝箱效率和物流效率的提升。零售方面已經(jīng)進(jìn)入智能新時(shí)代，有些城市已經(jīng)有了無(wú)人超市，整個(gè)購(gòu)物過(guò)程，不需要售貨員、收銀員，從進(jìn)入無(wú)人超市選購(gòu)商品到離開(kāi)，系統(tǒng)自助識(shí)別扣款，整個(gè)過(guò)程無(wú)需人工干預(yù)。這里面涉及整個(gè)智能系統(tǒng)的參與才能實(shí)現(xiàn)。最后是醫(yī)療+AI的例子，華為與一些醫(yī)學(xué)院針對(duì)病理的篩選做聯(lián)合創(chuàng)新。因?yàn)椴±韺＜业南∪?，根?jù)預(yù)測(cè)全國(guó)宮頸癌病理的篩選完成需要20年的時(shí)間，但借助采用AI方式，效率可以提升5到10倍，這是非?？捎^的，病理醫(yī)生可以騰出時(shí)間專注于更復(fù)雜的醫(yī)學(xué)研究。最近，華為醫(yī)療影像團(tuán)隊(duì)在超聲圖像分割與測(cè)量領(lǐng)域取得技術(shù)突破，在胎兒超聲影像頭圍測(cè)量比賽(HC18)上以1.89mm的平均絕對(duì)誤差取得第一。

最后講一下華為的愿景和目標(biāo)，我們的目標(biāo)不是自己做AI，而是堅(jiān)持“平臺(tái)+AI+生態(tài)”的戰(zhàn)略，在推動(dòng)產(chǎn)業(yè)共識(shí)、探索產(chǎn)業(yè)增值、繁榮應(yīng)用生態(tài)方面做出應(yīng)有的貢獻(xiàn)。

▲華為公司企業(yè)業(yè)務(wù)全球marketing副總裁 李俊朋接受媒體采訪

同時(shí)，我們希望在AI生態(tài)非常復(fù)雜的情況下，為企業(yè)打造一個(gè)平臺(tái)，跟企業(yè)一起合作把AI做出來(lái)，應(yīng)用到該應(yīng)用的場(chǎng)景里去，把生態(tài)做好。同時(shí)，未來(lái)三年我們計(jì)劃發(fā)展100萬(wàn)個(gè)開(kāi)發(fā)者，投入10億人民幣用于AI人才培養(yǎng)。今天的演講到此結(jié)束，華為致力把數(shù)字世界帶入每個(gè)人、每個(gè)家庭、每個(gè)組織，實(shí)現(xiàn)萬(wàn)物互聯(lián)的智能世界，謝謝大家！