探索嵌入式機(jī)器學(xué)習(xí)

1943年，神經(jīng)生理學(xué)家沃倫·麥卡洛克（Warren McCulloch）和數(shù)學(xué)家沃爾特·皮茨（Walter Pitts）寫了一篇關(guān)于神經(jīng)元及其工作原理的論文。使用電路創(chuàng)建了一個(gè)模型，神經(jīng)網(wǎng)絡(luò)應(yīng)運(yùn)而生。七十年后，這些開端已經(jīng)發(fā)展成為全球一些頂級(jí)技術(shù)公司和技術(shù)社區(qū)的許多大型項(xiàng)目 - GoogleBrain，AlexNet，OpenAI，Amazon Machine Learning Platform是一些與AI和機(jī)器學(xué)習(xí)相關(guān)的最知名舉措的例子。

進(jìn)入物聯(lián)網(wǎng)。以及它嵌入的強(qiáng)調(diào)。貨幣化依賴于（近）實(shí)時(shí)分析傳感器數(shù)據(jù)并對(duì)該信息采取行動(dòng)。這些領(lǐng)先的計(jì)劃假設(shè)大量數(shù)據(jù)可以無縫地輸入云環(huán)境，在那里可以執(zhí)行分析、分發(fā)方向和采取行動(dòng)，所有這些都在每個(gè)應(yīng)用程序所需的時(shí)間期限內(nèi)完成。

Qeexo（發(fā)音為“Keek-so”）首席技術(shù)官Chris Harrison認(rèn)為機(jī)器學(xué)習(xí)屬于邊緣，Qeexo正在開發(fā)解決方案來實(shí)現(xiàn)這一目標(biāo)。

移動(dòng)傳感器和人工智能

與許多范式轉(zhuǎn)變計(jì)劃一樣，這項(xiàng)特殊的舉措始于一個(gè)挑戰(zhàn) - 如何為移動(dòng)設(shè)備完成更復(fù)雜的觸摸交互？這導(dǎo)致了將觸摸屏數(shù)據(jù)與加速度計(jì)融合以測(cè)量屏幕點(diǎn)擊的探索。結(jié)果是能夠區(qū)分手指、指關(guān)節(jié)、指甲和手寫筆尖端和橡皮擦，這拓寬了用戶和設(shè)備之間的交互。

“如果我們要采用復(fù)雜的多點(diǎn)觸控，我們需要做一些聰明的事情來解決模棱兩可的用戶輸入，”Chris說?！白龅竭@一點(diǎn)的方法是機(jī)器學(xué)習(xí)。我們的 FingerSense 產(chǎn)品背后的機(jī)器學(xué)習(xí)軟件可以區(qū)分手指、指關(guān)節(jié)和指甲觸摸。這些新的輸入方法允許訪問上下文菜單。這帶來了右鍵單擊功能，而不是觸摸并按住。

移動(dòng)設(shè)備機(jī)器學(xué)習(xí)挑戰(zhàn)

在移動(dòng)設(shè)備上進(jìn)行機(jī)器學(xué)習(xí)的功耗和延遲預(yù)算很小。花了將近三年的時(shí)間才滿足要求。

“作為移動(dòng)應(yīng)用程序開發(fā)人員，您在移動(dòng)設(shè)備上有兩種選擇 - 您可以在更高的功率下快速完成工作，或者在較低的功率下更慢地完成工作。這導(dǎo)致了我們稱之為混合融合的關(guān)鍵功能。機(jī)器學(xué)習(xí)軟件需要非常聰明地訪問和處理傳感器數(shù)據(jù)，以適應(yīng)功率和延遲預(yù)算，“Chris說。

FingerSense非常擅長(zhǎng)進(jìn)行邊緣和設(shè)備優(yōu)化的機(jī)器學(xué)習(xí) - 這是傳統(tǒng)的機(jī)器學(xué)習(xí)云環(huán)境不必考慮的。

“大多數(shù)公司都在從巨大的服務(wù)器和昂貴的CPU的角度考慮深度學(xué)習(xí)。我們走了相反的道路。物聯(lián)網(wǎng)的目標(biāo)是一種“微小”的機(jī)器學(xué)習(xí)，可以在有限的資源下有效地運(yùn)行，并保持應(yīng)用程序的近乎實(shí)時(shí)的截止日期。通過在移動(dòng)行業(yè)嶄露頭角，它為我們提供了將機(jī)器學(xué)習(xí)應(yīng)用于邊緣物聯(lián)網(wǎng)和嵌入式設(shè)備的技能和技術(shù)。

最令人興奮的前沿領(lǐng)域之一是將Chris所謂的“機(jī)器學(xué)習(xí)”帶到物聯(lián)網(wǎng)和小型設(shè)備中。例如，您的燈泡不必能夠?qū)γ恐芴鞖膺M(jìn)行網(wǎng)絡(luò)搜索，但添加一點(diǎn)機(jī)器學(xué)習(xí)，使其能夠感知運(yùn)動(dòng)和溫度以做出開/關(guān)決策具有現(xiàn)實(shí)價(jià)值。

嵌入式機(jī)器學(xué)習(xí)架構(gòu)

機(jī)器學(xué)習(xí)環(huán)境以 C/C++ 和 ARM 匯編編寫，以優(yōu)化效率和操作系統(tǒng)可移植性。大多數(shù)操作都在內(nèi)核驅(qū)動(dòng)程序組件中。該軟件必須處理電池供電設(shè)備的電源管理。使用設(shè)備中的主 CPU 進(jìn)行嵌入式機(jī)器學(xué)習(xí)可能會(huì)非常耗電。因此，低功耗微控制器不是將加速度計(jì)和運(yùn)動(dòng)傳感器連接到主CPU，而是位于傳感器和主CPU之間，充當(dāng)“傳感器集線器”。傳感器集線器更節(jié)能，專門用于傳感器通信的繁重工作。傳感器集線器還可以執(zhí)行一點(diǎn)邏輯，以允許主CPU關(guān)閉更長(zhǎng)的時(shí)間。這種分層設(shè)計(jì)優(yōu)化了功耗和延遲預(yù)算，使嵌入式機(jī)器學(xué)習(xí)環(huán)境在移動(dòng)設(shè)備和物聯(lián)網(wǎng)傳感器上成為可能。

“加速度計(jì)數(shù)據(jù)是恒定的數(shù)據(jù)流，沒有應(yīng)用邏輯，因此需要不斷采樣，”Chris說?！斑@是機(jī)器學(xué)習(xí)邏輯開始（也許結(jié)束）的地方?？梢栽谥?CPU 上完成其他機(jī)器學(xué)習(xí)邏輯。您可以決定傳感器集線器可以過濾掉或預(yù)先選擇數(shù)據(jù)，因此進(jìn)入主 CPU 的數(shù)據(jù)量更少。

一個(gè)例子是發(fā)生流量突發(fā)時(shí)。如果傳感器信息處于空閑狀態(tài)，則會(huì)產(chǎn)生突發(fā)信息，并且該突發(fā)信息會(huì)移動(dòng)到主存儲(chǔ)器或占用總線，則情況可能會(huì)很糟糕?；蛘撸绻麉f(xié)處理器向主處理器提供信息的矢量表示，則可以簡(jiǎn)化效率，同時(shí)仍然能夠解釋信息。

遠(yuǎn)離云

必須小心，不要在通往成功的物聯(lián)網(wǎng)系統(tǒng)的道路上假設(shè)完美和高帶寬的網(wǎng)絡(luò)連接和無限的機(jī)器學(xué)習(xí)資源。Chris警告說，云環(huán)境不要被用作拐杖。

“如果你花時(shí)間正確分析、收集需求和設(shè)計(jì)物聯(lián)網(wǎng)系統(tǒng)，你絕對(duì)可以在邊緣執(zhí)行機(jī)器學(xué)習(xí)。這最大限度地減少了網(wǎng)絡(luò)要求，并提供了高水平的近實(shí)時(shí)交互。

當(dāng)然，安全考慮也是最重要的。只要有可能，你都希望減少攻擊面。一些應(yīng)用程序可能能夠僅在邊緣進(jìn)行機(jī)器學(xué)習(xí)和操作，從而完全消除互聯(lián)網(wǎng)連接。

“在CMU ［卡內(nèi)基梅隆大學(xué)］，我們偶爾會(huì)接到執(zhí)法部門的電話，告訴我們我們的相機(jī)被用來發(fā)送電子郵件，”克里斯說?！斑@些攻擊發(fā)生在運(yùn)行網(wǎng)絡(luò)的安全專家身上！如果可能，請(qǐng)不要將系統(tǒng)連接到互聯(lián)網(wǎng)。如果我們能夠擺脫這種趨勢(shì)［利用云處理一切］，我們應(yīng)該能夠?qū)崿F(xiàn)一個(gè)更安全、更私密、更高效的系統(tǒng)。云連接是有時(shí)間和地點(diǎn)的，但工程師需要立即停止跳轉(zhuǎn)到該資源。

鑒于這些處理器的改進(jìn)速度，這似乎是可以實(shí)現(xiàn)的。還有一個(gè)成本效益。如今，大多數(shù)智能設(shè)備的價(jià)格都超出了大眾市場(chǎng)。如果我們能夠?qū)⒅悄芡度氲竭@些設(shè)備中，降低成本并提供真正的價(jià)值，那么采用就會(huì)加速。

審核編輯：郭婷