嵌入式芯片中神經(jīng)網(wǎng)絡(luò)加速器如何支持本地化AI處理

來(lái)源：ST社區(qū)

GPU和NNA（神經(jīng)網(wǎng)絡(luò)加速器）正在迅速成為AI應(yīng)用的關(guān)鍵要素。隨著不同企業(yè)開(kāi)始挖掘神經(jīng)網(wǎng)絡(luò)在各種任務(wù)（比如自然語(yǔ)言處理、圖片分類）中的潛力，集成人工智能元素的產(chǎn)品數(shù)量正在穩(wěn)步的增長(zhǎng)。與此同時(shí)，對(duì)于這些任務(wù)的處理也正在從傳統(tǒng)的云端架構(gòu)轉(zhuǎn)移到設(shè)備本身上來(lái)，嵌入式芯片中集成了專用的神經(jīng)網(wǎng)絡(luò)加速器，可支持本地化AI處理。例如先進(jìn)的駕駛輔助系統(tǒng)（ADAS）能夠?qū)崟r(shí)監(jiān)控前方道路，還有集成語(yǔ)音識(shí)別類功能的消費(fèi)電子產(chǎn)品，比如虛擬助理?；谏窠?jīng)網(wǎng)絡(luò)的AI應(yīng)用正在多個(gè)細(xì)分市場(chǎng)不斷擴(kuò)大。

Imagination公司的業(yè)務(wù)是為芯片設(shè)計(jì)提供必要的內(nèi)核組件，我們?cè)谇度胧綀D形處理器（GPU）和神經(jīng)網(wǎng)絡(luò)加速器（NNA）技術(shù)方面聞名，我們將這些技術(shù)授權(quán)給世界領(lǐng)先的芯片供應(yīng)商。他們的產(chǎn)品被廣泛應(yīng)用在多個(gè)產(chǎn)品和服務(wù)中，因此Imagination在市場(chǎng)上占有著獨(dú)特的位置，我們使得整個(gè)生態(tài)系統(tǒng)都能夠參與到AI的發(fā)展中來(lái)。

不可否認(rèn)，AI在很多應(yīng)用中都是至關(guān)重要的，但是也有很多的挑戰(zhàn)。其中之一就是協(xié)調(diào)好終端設(shè)備和云服務(wù)器之間的處理負(fù)載，將AI處理操作放在最佳的位置來(lái)完成。例如在消費(fèi)者終端設(shè)備上進(jìn)行本地化AI語(yǔ)音識(shí)別；對(duì)于“喚醒”指令或其他簡(jiǎn)單指令，因?yàn)楸镜卦O(shè)備無(wú)法存儲(chǔ)龐大的知識(shí)數(shù)據(jù)庫(kù)，要利用這些數(shù)據(jù)就必須在云服務(wù)器中實(shí)現(xiàn)很大一部分AI處理操作。目前的情況是很多市場(chǎng)上銷售的產(chǎn)品都帶有AI功能，但實(shí)際上它們只是在本地進(jìn)行簡(jiǎn)單的模式匹配和識(shí)別，然后依賴云服務(wù)器完成進(jìn)一步的AI處理。

這種情況將會(huì)逐漸改變，隨著芯片工藝技術(shù)變得更加普遍，嵌入式神經(jīng)網(wǎng)絡(luò)加速器（NNA）將會(huì)變得幾乎和CPU一樣無(wú)處不在，這為在終端設(shè)備中提高人工智能處理能力創(chuàng)造了機(jī)會(huì)。例如我們希望看到智能安防攝像頭能夠熟練的監(jiān)控特定事件，不再局限于簡(jiǎn)單的錄像，使用終端設(shè)備AI功能來(lái)處理識(shí)別視野內(nèi)的一些特征，比如道路上的車輛或人群中的面孔。這也會(huì)衍生一些其他功能，比如確定車輛的制造商和型號(hào)、或者是某些人獲得授權(quán)。輸入結(jié)果可能不是可識(shí)別的視頻內(nèi)容，可能只是描述這些結(jié)果的原始數(shù)據(jù)。將人工智能嵌入到安防攝像頭中甚至可以減少不靠譜情況的發(fā)生從而降低成本，因?yàn)閿z像頭內(nèi)的AI功能可以識(shí)別正常行為與可疑行為之間的區(qū)別。

雖然人工智能的應(yīng)用數(shù)量在不斷增加，但這并不意味著集成神經(jīng)網(wǎng)特性的單個(gè)SoC是所有應(yīng)用場(chǎng)景的發(fā)展方向。如果我們考慮讓人工智能涉及大部分細(xì)分市場(chǎng)，由于使用該技術(shù)的產(chǎn)品在加工要求上有很大的不同，自然會(huì)出現(xiàn)多樣化。分散的市場(chǎng)很難與通用的應(yīng)用處理器一起結(jié)合使用，例如那些集成了NNA器件和GPU的處理器，事實(shí)上，“一刀切”的方式并不總是適用的。

雖然一些市場(chǎng)為SoC供應(yīng)商提供了大量的機(jī)會(huì)，比如智能手機(jī)、汽車ADAS等，但是許多以使用AI為目標(biāo)的市場(chǎng)需求量并不是很大。值得注意的是，一些產(chǎn)品可能需要人工智能來(lái)進(jìn)行語(yǔ)音處理或圖像識(shí)別，但并非兩者都需要：智能照明系統(tǒng)供應(yīng)商不太可能使用最初為智能手機(jī)而設(shè)計(jì)的SoC，僅僅是為了將人工智能引入到其應(yīng)用中，這并不符合成本效益。解決這個(gè)問(wèn)題的方法是創(chuàng)建專門的人工智能芯片，與主應(yīng)用處理器一起作為配套芯片使用，這些器件可以承擔(dān)原來(lái)由主應(yīng)用處理器上的NNA核心來(lái)處理的AI任務(wù)，這具有明顯的優(yōu)勢(shì)：SoC供應(yīng)商可以提供一系列具有不同性能水平的終端AI器件；此外，OEM廠商還可以根據(jù)他們的期望在特定應(yīng)用中處理AI任務(wù)，提供多個(gè)選項(xiàng)來(lái)適當(dāng)?shù)臄U(kuò)展或縮減產(chǎn)品解決方案。

那么人工智能市場(chǎng)將走向何方？我預(yù)計(jì)人們對(duì)人工智能的興趣和需求都將繼續(xù)增長(zhǎng)，事實(shí)上，支撐這一目標(biāo)的技術(shù)不斷變得成熟。相反，幾乎可以肯定的是，人們會(huì)意識(shí)到人工智能并不是解決所有問(wèn)題的答案，炒作現(xiàn)象可能會(huì)有所減弱，許多公司也會(huì)轉(zhuǎn)移注意力。他們將會(huì)利用人工智能的潛力來(lái)增強(qiáng)系統(tǒng)的能力，但是人工智能未必是這些系統(tǒng)的運(yùn)行核心。

更進(jìn)一步說(shuō)，真正的人工智能——機(jī)器擁有意識(shí)，能夠基于認(rèn)知推理作出決策——這還需要10年或更長(zhǎng)的時(shí)間。這意味著云互連在未來(lái)很多年都將至關(guān)重要，它不僅能提供必要的大規(guī)模并行計(jì)算資源（可能是通過(guò)量子機(jī)器），還能提供巨大的數(shù)據(jù)存儲(chǔ)，人工智能依靠這些數(shù)據(jù)來(lái)理解周圍的世界。更高帶寬的通信技術(shù)有望在2019年問(wèn)世，尤其是5G和802.11ax標(biāo)準(zhǔn)，因此相信云AI架構(gòu)和互連帶寬都將相應(yīng)擴(kuò)大。

PowerVR Series2NX架構(gòu)

對(duì)于真正處于前沿的人工智能，我們需要構(gòu)想出創(chuàng)新的方法來(lái)提高晶體管在硅片上的封裝密度，同時(shí)使其既具有通過(guò)學(xué)習(xí)獲得知識(shí)的能力又具備所需的推理技能，從而設(shè)計(jì)全新的SoC器件。

Imagination公司希望為芯片供應(yīng)商提供關(guān)鍵的核心技術(shù)，從而構(gòu)建世界領(lǐng)先的人工智能解決方案。PowerVR GPU提供了高性能的GPU計(jì)算能力，用于處理AI中的可視化操作，比如圖像識(shí)別和排序、手勢(shì)識(shí)別驅(qū)動(dòng)接口以及實(shí)時(shí)視頻分析等。PowerVR NNA（神經(jīng)網(wǎng)絡(luò)加速器）是任何前沿人工智能解決方案的核心，為高級(jí)推理和邊緣數(shù)據(jù)處理提供必要的硬件加速。我們的GPU和NNA能夠?yàn)楦咝阅艿腁I處理提供一切必要的技術(shù)并使硅芯片獲得優(yōu)勢(shì)。

人工智能的未來(lái)正在變得清晰…但是當(dāng)它完成某些任務(wù)花費(fèi)的時(shí)間比我們預(yù)期的時(shí)間要長(zhǎng)時(shí)大家不要感到驚訝。

審核編輯 黃昊宇