AI技術(shù)成熟度越來(lái)越高，NPU大時(shí)代來(lái)臨

隨著互聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)，以及物聯(lián)網(wǎng)的發(fā)展，人類(lèi)創(chuàng)造的數(shù)據(jù)量在快速增加，這些海量的數(shù)據(jù)為AI的發(fā)展提供了肥沃的土壤。加上神經(jīng)網(wǎng)絡(luò)算法的進(jìn)步，及CPU、GPU、NPU、FPGA等各種芯片性能的快速提升，極大地提升了計(jì)算機(jī)處理海量視頻、圖像等數(shù)據(jù)的計(jì)算能力。也就是說(shuō)，在算力、算法和數(shù)據(jù)三要素快速發(fā)展的背景下，AI技術(shù)的成熟度越來(lái)越高，AI產(chǎn)業(yè)不斷演進(jìn)，落地應(yīng)用也變得更加豐富，AI正在與各行各業(yè)的典型應(yīng)用場(chǎng)景相融合。

這些年，可以明顯看到AI在智能手機(jī)、智能音箱等消費(fèi)類(lèi)電子產(chǎn)品，以及互聯(lián)網(wǎng)應(yīng)用等To C端的應(yīng)用場(chǎng)景中大量落地后，開(kāi)始向工業(yè)制造、能源、交通、金融、醫(yī)療、教育、零售、汽車(chē)等傳統(tǒng)To B端行業(yè)滲透。

現(xiàn)在的AI技術(shù)已經(jīng)開(kāi)始滲透進(jìn)人們?nèi)粘Ｉ畹姆椒矫婷媪?，那么什么樣的AI最有前景，最容易被市場(chǎng)所接受呢？其實(shí)未來(lái)的AI落地應(yīng)用可能更多的是一些碎片化的市場(chǎng)，能夠在性能和成本之間取得良好平衡的應(yīng)用可能更加有市場(chǎng)前景。

碎片化將增加企業(yè)成本

不論是工業(yè)制造、能源、金融、還是交通行業(yè)，很多應(yīng)用場(chǎng)景都是需要根據(jù)具體的場(chǎng)景做更多定制化的服務(wù)，這必然會(huì)增加AI企業(yè)的成本負(fù)擔(dān)。比如在工業(yè)場(chǎng)景中，AI企業(yè)需要幫助工廠(chǎng)設(shè)計(jì)并訓(xùn)練工業(yè)級(jí)的高性能AI模型，這就需要AI企業(yè)大量的成本投入和深厚的技術(shù)沉淀，包括多場(chǎng)景海量數(shù)據(jù)收集、復(fù)雜模型的設(shè)計(jì)和算法訓(xùn)練、以及包括軟件框架和硬件系統(tǒng)在內(nèi)的AI基礎(chǔ)設(shè)施來(lái)支持大規(guī)模運(yùn)算。而且，由于每個(gè)工廠(chǎng)制造的產(chǎn)品是不一樣的，產(chǎn)線(xiàn)環(huán)境也各不相同，開(kāi)發(fā)的解決方案可能只適用于一家客戶(hù)，成本得不到均攤，自然就會(huì)更高。

還有在交通領(lǐng)域，AI需要對(duì)特殊的交通事故、道路塌陷、以及火災(zāi)等不同場(chǎng)景進(jìn)行識(shí)別、分析、評(píng)估損失等，這些都是極其具體的要求。

碎片化的應(yīng)用場(chǎng)景還可能會(huì)帶來(lái)另一個(gè)問(wèn)題，由于單個(gè)場(chǎng)景發(fā)生的頻次比較低，可用的數(shù)據(jù)量會(huì)偏少。加上每種模型的生產(chǎn)都需要大量的算力和人力，AI行業(yè)的人力投入將會(huì)增加，相應(yīng)AI企業(yè)的成本也會(huì)增加。

當(dāng)然，這些碎片化的應(yīng)用場(chǎng)景，也會(huì)有一些好處，那就是大部分的客戶(hù)其實(shí)是不懂AI的，他們需要的不是一個(gè)AI模塊，或者開(kāi)發(fā)包，而是一整套定制化的解決方案，而且，因?yàn)檫@種定制化的方案確實(shí)也幫助他們解決了實(shí)際問(wèn)題，因此，他們也更愿意為此類(lèi)解決方案付費(fèi)。

AI背后的NPU

所有落地AI應(yīng)用中，都需要硬件的算力支持，包括目前市場(chǎng)比較火熱的自動(dòng)駕駛。隨著汽車(chē)中攝像頭、毫米波雷達(dá)、激光雷達(dá)，以及超聲波雷達(dá)等環(huán)境感知傳感器的增多，自動(dòng)駕駛系統(tǒng)收集的傳感器數(shù)據(jù)將會(huì)更多，自動(dòng)駕駛計(jì)算芯片需要通過(guò)算法處理、匯算這些數(shù)據(jù)，實(shí)現(xiàn)車(chē)、路、人等信息融合，對(duì)駕駛控制做出決策。而傳感器數(shù)量的增多，對(duì)自動(dòng)駕駛計(jì)算芯片的算力要求將顯著提升。

而算力的提升，離不開(kāi)NPU（Neural-network Processing Unit，神經(jīng)網(wǎng)絡(luò)處理器）的支持。它是一類(lèi)基于DSA (Domain Specific Architecture) 領(lǐng)域?qū)Ｓ眉軜?gòu)技術(shù)的專(zhuān)用于人工智能（特別是人工神經(jīng)網(wǎng)絡(luò)、機(jī)器視覺(jué)、機(jī)器學(xué)習(xí)等）硬件加速的微處理器。相比于CPU、GPU，NPU在硬件架構(gòu)上就是針對(duì)AI設(shè)計(jì)的，非常適合神經(jīng)網(wǎng)絡(luò)運(yùn)算。

NPU與CPU和GPU等通用處理器設(shè)計(jì)思路不同。通用處理器考慮到計(jì)算的通用性，提升的計(jì)算能力大部分不能直接轉(zhuǎn)化為神經(jīng)網(wǎng)絡(luò)處理能力的提升，比如沒(méi)有針對(duì)MAC運(yùn)算做專(zhuān)門(mén)的提升，而NPU針對(duì)神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)，無(wú)需考慮神經(jīng)網(wǎng)絡(luò)并不需要一些計(jì)算單元。相較于CPU擅長(zhǎng)處理任務(wù)和發(fā)號(hào)施令，GPU擅長(zhǎng)進(jìn)行圖像處理、并行計(jì)算，NPU更擅長(zhǎng)處理人工智能任務(wù)。NPU通過(guò)突觸權(quán)重實(shí)現(xiàn)存儲(chǔ)和計(jì)算一體化，從而提高運(yùn)行效率。

因此，我們可以在很多支持AI應(yīng)用的處理器，或者SoC中發(fā)現(xiàn)NPU的身影，比如蘋(píng)果的A15、特斯拉的FSD芯片、地平線(xiàn)的征程系列芯片、OPPO的馬里亞納X芯片等等。除了這些規(guī)模較大，性能較高的SoC芯片，其實(shí)現(xiàn)在有些MCU產(chǎn)品也開(kāi)始集成NPU模塊了，以滿(mǎn)足一些邊緣智能應(yīng)用的需求。

其實(shí)，很多支持AI的SoC芯片都是通過(guò)集成神經(jīng)網(wǎng)絡(luò)IP來(lái)實(shí)現(xiàn)的，一般來(lái)說(shuō)，神經(jīng)網(wǎng)絡(luò)IP會(huì)于神經(jīng)網(wǎng)絡(luò)算法同步發(fā)展，能夠進(jìn)一步擴(kuò)展，以應(yīng)對(duì)神經(jīng)網(wǎng)絡(luò)性能日益增長(zhǎng)的需求。

新思科技ARC NPX6 NPU IP

新思科技最近推出了全新的NPU IP核和工具鏈，以滿(mǎn)足神經(jīng)網(wǎng)絡(luò)不斷發(fā)展的需求。同時(shí)提供了強(qiáng)大的可擴(kuò)展性，單個(gè)NPU處理器支持從4K MAC到96K MAC的擴(kuò)展，可以滿(mǎn)足不同的應(yīng)用需求，比如：ADAS，監(jiān)控，數(shù)據(jù)電視，攝像頭，自然語(yǔ)言處理等等。其ARC NPX6和NPX6FS NPU IP可滿(mǎn)足面向AI應(yīng)用的具有超低功耗的實(shí)時(shí)計(jì)算需求，提供業(yè)界最佳性能，并支持最新、復(fù)雜的神經(jīng)網(wǎng)絡(luò)模型。

圖：ARC NPX6 NPU?IP

單個(gè)NPU可在5nm工藝中以每秒1.3GHz的速率提供高達(dá)250TOPS的算力，或通過(guò)使用全新稀疏特征提供高達(dá)440TOPS的算力，因此可以提高執(zhí)行神經(jīng)網(wǎng)絡(luò)性能并降低能耗需求；新IP集成了硬件和軟件鏈接功能，支持實(shí)施多個(gè)NPU實(shí)例，在單個(gè)SoC上可以實(shí)現(xiàn)高達(dá)3500TOPS的性能；在神經(jīng)處理硬件內(nèi)部提供可選的16位浮點(diǎn)支持，以極大提高層性能，并簡(jiǎn)化了從用于AI原型設(shè)計(jì)的GPU向大容量功耗和面積優(yōu)化型SoC的過(guò)渡。

ARC NPX6FS NPU IP是針對(duì)功能安全應(yīng)用的神經(jīng)網(wǎng)絡(luò)處理器IP，它滿(mǎn)足嚴(yán)格的隨機(jī)硬件故障檢測(cè)和系統(tǒng)功能安全開(kāi)發(fā)流程要求，完全符合ISO 26262汽車(chē)安全完整性等級(jí)(ASIL)D級(jí)標(biāo)準(zhǔn)。并且，這些處理器包含全面的安全文檔，具有符合ISO 26262標(biāo)準(zhǔn)的專(zhuān)用安全機(jī)制，并滿(mǎn)足下一代區(qū)域架構(gòu)的混合關(guān)鍵性和虛擬化要求。

此外，為了方便工程師使用，加快產(chǎn)品上市時(shí)間，新思科技還提供了全新的DesignWare ARC MetaWare MX開(kāi)發(fā)工具包，該工具包包括了編譯器和調(diào)試器、神經(jīng)網(wǎng)絡(luò)軟件開(kāi)發(fā)工具包、虛擬平臺(tái)軟件開(kāi)發(fā)工具包、運(yùn)行時(shí)庫(kù)以及先進(jìn)仿真模型。

MetaWare MX提供的單一工具鏈在MAC資源中自動(dòng)劃分算法以實(shí)現(xiàn)高效處理，幫助工程師加速應(yīng)用開(kāi)發(fā)。另外，對(duì)于安全關(guān)鍵型汽車(chē)應(yīng)用，該MetaWare MX 安全開(kāi)發(fā)工具包包含了安全手冊(cè)和安全指南，可幫助開(kāi)發(fā)者滿(mǎn)足ISO 26262要求并為ISO 26262合規(guī)性測(cè)試做好準(zhǔn)備。

結(jié)語(yǔ)

AI技術(shù)正在跟各個(gè)細(xì)分行業(yè)緊密結(jié)合，以發(fā)揮其優(yōu)勢(shì)，在AI技術(shù)落地應(yīng)用越來(lái)越多的時(shí)候，NPU也變得越來(lái)越重要，未來(lái)對(duì)NPU的需求也將會(huì)進(jìn)一步提升，相信NPU的大時(shí)代正在來(lái)臨。