一種專(zhuān)用芯片使在智能手機(jī)上運(yùn)行神經(jīng)網(wǎng)絡(luò)變得切實(shí)可行

近期，麻省理工學(xué)院的研究人員開(kāi)發(fā)了一種專(zhuān)用芯片，將神經(jīng)網(wǎng)絡(luò)計(jì)算的速度提高了 3 倍至 7 倍，同時(shí)將功耗降低了 95％。這將會(huì)使在智能手機(jī)上運(yùn)行神經(jīng)網(wǎng)絡(luò)變得切實(shí)可行。

不管是語(yǔ)音識(shí)別還是面部識(shí)別，目前大多數(shù)人工智能系統(tǒng)的進(jìn)步背后都來(lái)自于神經(jīng)網(wǎng)絡(luò)的功勞。人工神經(jīng)網(wǎng)絡(luò)，也就是通過(guò)大量簡(jiǎn)易“神經(jīng)元”（信息處理器）連接而成的系統(tǒng)，能夠通過(guò)分析大量訓(xùn)練數(shù)據(jù)學(xué)習(xí)如何完成不同的任務(wù)。

正是因?yàn)檫@樣的結(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)占用空間大，其計(jì)算過(guò)程中的耗能也相應(yīng)非常大。因此，目前的神經(jīng)網(wǎng)絡(luò)很少能夠被便攜設(shè)備使用。目前所有使用神經(jīng)網(wǎng)絡(luò)的智能手機(jī)軟件只能向網(wǎng)絡(luò)服務(wù)器發(fā)送數(shù)據(jù)，通過(guò)接收服務(wù)器返回的數(shù)據(jù)完成計(jì)算。

不過(guò)，麻省理工學(xué)院（MIT）的研究人員開(kāi)發(fā)了一種能夠?qū)⑸窠?jīng)網(wǎng)絡(luò)計(jì)算速度提升 3-7 倍的專(zhuān)用芯片。除了提升計(jì)算性能，這類(lèi)芯片還能夠減少計(jì)算時(shí) 94-95% 的能耗。這種芯片使智能手機(jī)運(yùn)用神經(jīng)網(wǎng)絡(luò)進(jìn)行計(jì)算成為了可能，甚至能夠擴(kuò)展到在各式智能家居中的應(yīng)用。

負(fù)責(zé)芯片開(kāi)發(fā)的 Avishek Biswas 是這樣解釋的：“目前大部分的處理器芯片都有這樣的模型：芯片的一部分是內(nèi)存，另一部分是處理器。在計(jì)算的同時(shí)，數(shù)據(jù)相當(dāng)于是在這兩部分之間來(lái)回移位。”Biswas 是 MIT 電氣工程和計(jì)算機(jī)學(xué)的一名研究生。

“由于這類(lèi)機(jī)器學(xué)習(xí)算法需要非常多的計(jì)算量，數(shù)據(jù)的移位消耗了總能量中的絕大部分；但是算法中的計(jì)算本身其實(shí)能夠被簡(jiǎn)化為‘點(diǎn)乘’這一種運(yùn)算。我們因此產(chǎn)生了這種想法：能不能將這種‘點(diǎn)乘’運(yùn)算直接在內(nèi)存中執(zhí)行，從而不需要將數(shù)據(jù)來(lái)回移動(dòng)呢？”

Biswas 和他的指導(dǎo)教授，MIT 工程學(xué)院院長(zhǎng)、Vannevar Bush 榮譽(yù)教授 Anantha Chandrakasan 在他們最新發(fā)表的論文中詳細(xì)地描述了這種新型芯片。Biswas 在上周的國(guó)際固態(tài)電路會(huì)議（International Solid State Circuits Conference）中介紹了這篇論文。

重回抽象

人工神經(jīng)網(wǎng)絡(luò)一般被分成很多層，某一層中的一個(gè)處理器節(jié)點(diǎn)會(huì)從數(shù)個(gè)下層節(jié)點(diǎn)中獲得數(shù)據(jù)，在計(jì)算后又將結(jié)果傳送給上層中的數(shù)個(gè)節(jié)點(diǎn)。任意兩個(gè)節(jié)點(diǎn)的連接都擁有不同的權(quán)重（weight），標(biāo)志著下層節(jié)點(diǎn)傳送的數(shù)據(jù)對(duì)于上層節(jié)點(diǎn)的計(jì)算有多大的影響?！坝?xùn)練”神經(jīng)網(wǎng)絡(luò)的過(guò)程其實(shí)就是調(diào)試并改進(jìn)這些權(quán)重?cái)?shù)據(jù)。

當(dāng)某個(gè)節(jié)點(diǎn)獲得下層節(jié)點(diǎn)傳送的數(shù)據(jù)后，它會(huì)將每個(gè)數(shù)據(jù)乘以它的權(quán)重，然后將這些結(jié)果相加。這一運(yùn)算過(guò)程——將相乘后的所有結(jié)果相加——就叫作“點(diǎn)乘”。如果點(diǎn)乘的結(jié)果超過(guò)了某個(gè)定值，這一結(jié)果將被傳送給更上層的節(jié)點(diǎn)。上層節(jié)點(diǎn)也將會(huì)這一結(jié)果乘以連接權(quán)重，然后再和別的數(shù)據(jù)相加。

“神經(jīng)網(wǎng)絡(luò)”本身其實(shí)是對(duì)這一算法的一種“抽象化”：在計(jì)算機(jī)中，“節(jié)點(diǎn)”其實(shí)只是內(nèi)存中的一系列權(quán)重?cái)?shù)據(jù)。計(jì)算點(diǎn)乘的過(guò)程一般是從內(nèi)存中讀取一個(gè)權(quán)重和相關(guān)的計(jì)算數(shù)據(jù)，將這兩個(gè)數(shù)據(jù)相乘并將結(jié)果存在內(nèi)存的某個(gè)位置，然后重復(fù)這一過(guò)程，直到這一個(gè)節(jié)點(diǎn)的所有數(shù)據(jù)都被計(jì)算完畢。由于一個(gè)神經(jīng)網(wǎng)絡(luò)可能有上萬(wàn)（甚至上百萬(wàn)）的節(jié)點(diǎn)，在計(jì)算過(guò)程中其實(shí)要進(jìn)行非常多的數(shù)據(jù)移動(dòng)。

人工神經(jīng)網(wǎng)絡(luò)的計(jì)算過(guò)程其實(shí)是對(duì)大腦活動(dòng)的一種電子化詮釋。在大腦中，信號(hào)沿著多個(gè)神經(jīng)元行進(jìn)，在“突觸”或者一束神經(jīng)元之間的間隙中相遇。神經(jīng)元的放電速率和穿過(guò)突觸的電化學(xué)信號(hào)對(duì)應(yīng)著人工神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)值和權(quán)重。這樣說(shuō)來(lái)，MIT 研究人員此次研發(fā)的新型芯片通過(guò)對(duì)大腦活動(dòng)的進(jìn)一步復(fù)制、模仿，從而提升了人工神經(jīng)網(wǎng)絡(luò)的效率。

在這種新型芯片中，一個(gè)節(jié)點(diǎn)的輸入數(shù)據(jù)被轉(zhuǎn)化為不同的電壓，并且這些電壓將乘以權(quán)重大小進(jìn)行放大或縮小。將相乘后的結(jié)果相加的過(guò)程能夠通過(guò)組合這些電壓得到實(shí)現(xiàn)。只有組合后的電壓會(huì)被重新轉(zhuǎn)換成數(shù)據(jù)，并在內(nèi)存中進(jìn)行存儲(chǔ)，以進(jìn)行下一步計(jì)算。

因此，這種芯片原型不需要將數(shù)據(jù)在處理器和內(nèi)存中移動(dòng)——它能同時(shí)計(jì)算 16 個(gè)節(jié)點(diǎn)的點(diǎn)乘結(jié)果。

不是“開(kāi)”就是“關(guān)”

這個(gè)系統(tǒng)的一大特點(diǎn)是權(quán)重?cái)?shù)值不是 1 就是-1。這就意味著它們能被實(shí)現(xiàn)為內(nèi)存中的“電路開(kāi)關(guān)”，也就是“關(guān)閉電路”與“打開(kāi)電路”的區(qū)別。最新的理論研究表明，僅有兩個(gè)權(quán)重值的人工神經(jīng)網(wǎng)絡(luò)與其它神經(jīng)網(wǎng)絡(luò)相比，其準(zhǔn)確性?xún)H會(huì)下降 1%-2%。

Biswas 與 Chandrakasan 教授的研究與這一理論結(jié)果相差不遠(yuǎn)。在實(shí)驗(yàn)中，他們?cè)趥鹘y(tǒng)計(jì)算機(jī)中運(yùn)行了一個(gè)全面的神經(jīng)網(wǎng)絡(luò)，同時(shí)在他們研發(fā)的芯片上運(yùn)行了二元權(quán)重的神經(jīng)網(wǎng)絡(luò)。芯片提供的計(jì)算結(jié)果與計(jì)算機(jī)提供的結(jié)果一般僅相差 2%-3%。

“這項(xiàng)研究是針對(duì)深度學(xué)習(xí)應(yīng)用中基于靜態(tài)存儲(chǔ)器（SRAM）內(nèi)存模擬計(jì)算的一次非常有前景的實(shí)際演示?！盜BM 人工智能研究院副總裁 Dario Gil 是這樣評(píng)價(jià)的，“這項(xiàng)研究的結(jié)果對(duì)于在存儲(chǔ)陣列中實(shí)現(xiàn)卷積網(wǎng)絡(luò)提供了一種節(jié)能的實(shí)現(xiàn)方案。它一定能夠?yàn)閷?lái)在物聯(lián)網(wǎng)（Internet of Things, IoT）中采用更復(fù)雜的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像和視頻分類(lèi)開(kāi)辟可能性?！?/p>