面向邊緣設(shè)備的微功耗智能

世界正在朝著交互設(shè)備的智能和分布式計(jì)算模型發(fā)展。這些設(shè)備中的智能將由機(jī)器學(xué)習(xí)算法驅(qū)動(dòng)。然而，將機(jī)器學(xué)習(xí)擴(kuò)展到邊緣并非沒有挑戰(zhàn)。本文將討論這些挑戰(zhàn)的前景，然后描述神經(jīng)形態(tài) - 大腦啟發(fā) - 計(jì)算將如何實(shí)現(xiàn)廣泛的智能應(yīng)用來(lái)應(yīng)對(duì)這些挑戰(zhàn)。提供了該技術(shù)的示例，包括手寫識(shí)別和連續(xù)語(yǔ)音識(shí)別。

世界正在朝著智能和分布式計(jì)算模式發(fā)展，其中數(shù)百萬(wàn)智能設(shè)備將直接與他們的世界以及彼此進(jìn)行交互和通信，以實(shí)現(xiàn)更快，響應(yīng)更快，更智能的未來(lái)。這個(gè)世界將使一種新型的邊緣設(shè)備和系統(tǒng)成為可能，從可穿戴設(shè)備、智能燈泡、智能鎖到智能汽車和建筑，對(duì)任何中央?yún)f(xié)調(diào)或處理實(shí)體（如云）的需求最小。這個(gè)智能世界的核心是機(jī)器學(xué)習(xí)算法，這些算法在處理器上運(yùn)行，這些處理器直接對(duì)這些設(shè)備收集的數(shù)據(jù)進(jìn)行操作，以學(xué)習(xí)進(jìn)行智能推理，并在動(dòng)態(tài)變化的環(huán)境中實(shí)時(shí)有效地對(duì)其世界采取行動(dòng)。

圖 1.具有學(xué)習(xí)、推理和快速交互能力的智能邊緣模型將使未來(lái)的智能設(shè)備成為可能。

在邊緣設(shè)備中啟用智能的模型基于在邊緣設(shè)備與環(huán)境和其他設(shè)備交互期間感知-學(xué)習(xí)-推斷-行動(dòng)的能力（圖 1）。我們相信，使這些智能邊緣設(shè)備既敏捷（即快速響應(yīng)）又高效（即從電源角度來(lái)看）的解決方案將主導(dǎo)這個(gè)動(dòng)態(tài)變化和分布式的網(wǎng)絡(luò)傳感器和對(duì)象世界。但是，與任何新技術(shù)一樣，在邊緣提供低功耗智能時(shí)需要解決一些挑戰(zhàn)。我們回顧了一些關(guān)鍵挑戰(zhàn)，并討論了Eta計(jì)算如何努力解決這些問題。

圖 2.DIAL技術(shù)可實(shí)現(xiàn)電壓調(diào)節(jié)，從而以無(wú)縫方式解決功耗和性能限制應(yīng)用。

一個(gè)關(guān)鍵的挑戰(zhàn)是能夠在這些邊緣設(shè)備上使用非常有限的電源資源智能地處理數(shù)據(jù)。埃塔計(jì)算一直在開發(fā)一種名為DIAL的基礎(chǔ)技術(shù)。斷續(xù)器（即，延遲不敏感的異步邏輯）將傳統(tǒng)微處理器和數(shù)字信號(hào)處理器的操作從同步模式轉(zhuǎn)換為異步模式（即，沒有任何時(shí)鐘）。與傳統(tǒng)邏輯不同（參見圖 2），其基本原理是以事件驅(qū)動(dòng)的方式運(yùn)行處理器，在不通過握手協(xié)議使用時(shí)，可以按需喚醒以進(jìn)行處理并進(jìn)入睡眠狀態(tài)。此外，該處理器可以自動(dòng)控制為以任務(wù)要求的最低頻率運(yùn)行，并在該頻率下能夠?qū)⒐ぷ麟妷嚎s放到盡可能小的值以運(yùn)行任務(wù)。DIAL的一項(xiàng)重要?jiǎng)?chuàng)新是，電路設(shè)計(jì)中沒有面積損失，同時(shí)還提供了一種可正式驗(yàn)證的方法來(lái)驗(yàn)證電路功能是否正確。這些重要特性使 Eta Compute 能夠以業(yè)界最低的功率水平提供微處理器技術(shù)，并在工作頻率下提供約 10 μW/MHz 的擴(kuò)展。執(zhí)行電壓調(diào)節(jié)還可以實(shí)現(xiàn)高能效（即低功耗）和性能高效（即高吞吐量）計(jì)算任務(wù)之間的無(wú)縫轉(zhuǎn)換。

另一個(gè)重要的挑戰(zhàn)是能夠支持ML模型，這些模型可以直接在內(nèi)存資源非常有限的設(shè)備上學(xué)習(xí)。此功能為許多應(yīng)用程序提供了所需的隱私和安全性，同時(shí)還確保了與其環(huán)境的敏捷交互。今天解決這個(gè)問題的方法是使用深度學(xué)習(xí)模型和谷歌的TensorFlow等工具在云中訓(xùn)練ML模型，然后將這些訓(xùn)練的模型轉(zhuǎn)換為在邊緣運(yùn)行的推理模型。

圖 3.SNN 模型中的核心思想。（a）從信息理論和能源效率的角度來(lái)看，基于事件的稀疏和離散的信號(hào)表示非常有效（b）興奮性（綠色）和抑制性（紅色）神經(jīng)元之間的循環(huán)結(jié)構(gòu)約束和平衡的峰值活動(dòng)。

我們正在探索一種基于大腦計(jì)算或神經(jīng)形態(tài)計(jì)算原理的新方法［1］，既能夠直接從數(shù)據(jù)流中學(xué)習(xí)，又可以通過有限數(shù)量的訓(xùn)練示例和有限的記憶要求來(lái)存儲(chǔ)所學(xué)知識(shí)。這里的基本思想是明確地表示數(shù)據(jù)/信號(hào)（圖3），方法是以動(dòng)作電位或尖峰的形式合并時(shí)間，然后將芯片操作的異步模式（如上所述）與使用尖峰學(xué)習(xí)的異步模式相結(jié)合。峰值神經(jīng)網(wǎng)絡(luò) （SNN） 計(jì)算提供了非常稀疏的數(shù)據(jù)表示，并且使用 DIAL 實(shí)現(xiàn)起來(lái)非常節(jié)能，因?yàn)橛?jì)算僅在出現(xiàn)峰值事件時(shí)才發(fā)生。此外，學(xué)習(xí)僅使用具有稀疏連接的本地學(xué)習(xí)規(guī)則來(lái)啟用，因此不像傳統(tǒng)的ML模型那樣參數(shù)密集，從而節(jié)省了存儲(chǔ)所需的內(nèi)存和訓(xùn)練模型所需的時(shí)間［2］。SNN的最后一個(gè)但同樣重要的方面是利用結(jié)構(gòu)約束（圖3）對(duì)事件序列的存儲(chǔ)器進(jìn)行編碼，以便快速學(xué)習(xí)，而無(wú)需在訓(xùn)練期間進(jìn)行多個(gè)數(shù)據(jù)演示。將模型的這些方面與由DIAL提供支持的處理器相結(jié)合，可以產(chǎn)生一個(gè)可以互換學(xué)習(xí)和推理的邊緣設(shè)備，從而實(shí)現(xiàn)敏捷的感知 - 學(xué)習(xí) - 推斷 - 行為模型。

Eta Compute正在使用這項(xiàng)技術(shù)開發(fā)用于模式識(shí)別的實(shí)際應(yīng)用程序，我們將討論兩個(gè)這樣的例子。首先是使用語(yǔ)音命令數(shù)據(jù)集 ［3］ 中的數(shù)據(jù)連續(xù)識(shí)別語(yǔ)音數(shù)字。此數(shù)據(jù)集由來(lái)自 2，300 個(gè)不同揚(yáng)聲器的個(gè)位數(shù)音頻片段組成，總共 60000 個(gè)話語(yǔ)。我們的 SNN 使用每個(gè)訓(xùn)練樣本的單次通過進(jìn)行訓(xùn)練，同時(shí)在測(cè)試集上實(shí)現(xiàn)了 95.2% 的準(zhǔn)確率，可與其他 ML 模型相媲美。從模型效率的角度來(lái)看，我們的 SNN 模型的效率提高了幾個(gè)數(shù)量級(jí)（通過所需的訓(xùn)練樣本數(shù)量和要學(xué)習(xí)的網(wǎng)絡(luò)參數(shù)數(shù)量來(lái)衡量），同時(shí)執(zhí)行的準(zhǔn)確性相當(dāng)。

SNN還能夠泛化以在連續(xù)模式下穩(wěn)健地識(shí)別數(shù)字，這是由于固有的短期記憶，可以可靠地檢測(cè)10位數(shù)話語(yǔ)的開頭，即使由于其他數(shù)字而重疊的頻譜圖也是如此。此模型已移植到我們的異步 Eta 核心芯片上。音頻從麥克風(fēng)捕獲，并使用片上低功耗ADC進(jìn)行數(shù)字化，數(shù)字化信號(hào)被轉(zhuǎn)換為頻譜圖，然后使用DSP編碼為尖峰。ARM M3 執(zhí)行 SNN 計(jì)算（圖 4（a））。該型號(hào)的總內(nèi)存為36 KB。從數(shù)據(jù)到?jīng)Q策（即包括I/O、DSP和M3）的總功耗為2 mW，推理速率為6-8字/秒。

同樣的原理應(yīng)用于基于MNIST基準(zhǔn)測(cè)試［4］的訓(xùn)練數(shù)據(jù)的手寫數(shù)字識(shí)別問題。二進(jìn)制圖像由 DSP 直接轉(zhuǎn)換為尖峰，同時(shí)在 M3 上執(zhí)行 SNN 學(xué)習(xí)（圖 4（b））。該芯片在MNIST測(cè)試設(shè)備上實(shí)現(xiàn)了98.3%的精度，需要64 KB的內(nèi)存。該解決方案需要 1 mW 的功率從數(shù)據(jù)到?jīng)Q策，吞吐量為 8 張圖像/秒。

圖 4.我們的連續(xù)語(yǔ)音數(shù)字和手寫數(shù)字識(shí)別芯片實(shí)現(xiàn)具有很高的功率和內(nèi)存效率，同時(shí)在準(zhǔn)確性方面可與傳統(tǒng)ML模型相媲美。（a） 連續(xù)語(yǔ)音數(shù)字識(shí)別 （b） 手寫數(shù)字識(shí)別。

這些結(jié)果表明，正如 Gartner 集團(tuán)所預(yù)測(cè)的那樣，實(shí)現(xiàn)智能、敏捷和高效的邊緣設(shè)備的潛力將推動(dòng)快速擴(kuò)張的物聯(lián)網(wǎng)市場(chǎng)，到 2020 年將有超過 250 億臺(tái)設(shè)備投入使用［5］。例如，其他基礎(chǔ)設(shè)施的共同開發(fā)，如設(shè)備互操作性標(biāo)準(zhǔn)和5G無(wú)線技術(shù)，可以使新的健身追蹤器能夠可靠地檢測(cè)用戶狀態(tài)，例如入睡，然后自動(dòng)關(guān)燈。未來(lái)似乎正在向由智能和高效邊緣設(shè)備提供支持的智能和分布式計(jì)算模型邁進(jìn)，Eta Compute正在開發(fā)新技術(shù)，以在其中發(fā)揮關(guān)鍵作用。

審核編輯：郭婷