如何選擇邊緣AI設(shè)備

作者：凌華科技物聯(lián)網(wǎng)技術(shù)與創(chuàng)新副總裁Toby Mcclean

邊緣計(jì)算在當(dāng)下是最受關(guān)注的技術(shù)趨勢(shì)之一。隨著這一趨勢(shì)的熱度高漲，也許您認(rèn)為是時(shí)候投資智能邊緣技術(shù)，并發(fā)展物聯(lián)網(wǎng)網(wǎng)絡(luò)了。但是，在您決定采購(gòu)新興邊緣設(shè)備之前，讓我們先討論一下到底何為邊緣計(jì)算、邊緣計(jì)算的作用以及您的應(yīng)用是否能夠受益于邊緣技術(shù)。邊緣計(jì)算可以大幅提升物聯(lián)網(wǎng)網(wǎng)絡(luò)的靈活度、速度和智能化程度，然而邊緣AI設(shè)備并不是應(yīng)對(duì)智能網(wǎng)絡(luò)應(yīng)用所有挑戰(zhàn)的靈丹妙藥。在幫助您確定邊緣技術(shù)是否適合您的應(yīng)用之后，本文將探討購(gòu)買邊緣AI設(shè)備時(shí)應(yīng)注意的主要功能和注意事項(xiàng)。

何為邊緣計(jì)算？

邊緣計(jì)算將物聯(lián)網(wǎng)帶入了另一個(gè)階段。在邊緣處，原始數(shù)據(jù)能夠?qū)崟r(shí)轉(zhuǎn)化為價(jià)值。通過在整個(gè)網(wǎng)絡(luò)中重新分配數(shù)據(jù)處理工作，邊緣計(jì)算使網(wǎng)絡(luò)節(jié)點(diǎn)、端點(diǎn)和其他智能設(shè)備的重要性得以提升、管理得以完善。

邊緣計(jì)算可以說是云計(jì)算的反面。云計(jì)算時(shí)，數(shù)據(jù)中心將集中處理從分布式網(wǎng)絡(luò)流入的數(shù)據(jù)，并將運(yùn)算結(jié)果傳輸回分布式網(wǎng)絡(luò)，以觸發(fā)操作或?qū)崿F(xiàn)更改。然而，遠(yuǎn)距離傳輸大量數(shù)據(jù)需要考慮金錢和時(shí)間成本，以及功率消耗。

這正是邊緣計(jì)算的用武之地：當(dāng)功率、帶寬和網(wǎng)絡(luò)延遲問題至關(guān)重要時(shí)，邊緣計(jì)算或是解決之道。應(yīng)用集中式云計(jì)算時(shí)，數(shù)據(jù)在得到處理前可能需要傳輸數(shù)百公里，而邊緣計(jì)算可以在抓取、創(chuàng)建或保存數(shù)據(jù)的同一網(wǎng)絡(luò)邊緣位置處理數(shù)據(jù)。這意味著邊緣計(jì)算的處理延遲幾乎可以忽略不計(jì)，對(duì)功耗和帶寬的要求通常也會(huì)大幅降低。

當(dāng)今邊緣計(jì)算發(fā)展的主要推動(dòng)力之一是半導(dǎo)體制造商，因?yàn)榘雽?dǎo)體的進(jìn)步能夠讓芯片在不大幅增加功耗的情況下提高處理能力。位于邊緣的處理器可以在不消耗更多功率的情況下，對(duì)所獲取的數(shù)據(jù)進(jìn)行更多處理。這樣一來，更多的數(shù)據(jù)就可以留在邊緣，而無(wú)需傳輸?shù)胶诵摹Ｒ虼?，邊緣?jì)算不僅可以降低系統(tǒng)總功耗，還能縮短響應(yīng)時(shí)間并更好地保護(hù)數(shù)據(jù)隱私。

人工智能（AI）和機(jī)器學(xué)習(xí)（ML）等技術(shù)也受益于邊緣計(jì)算：它們也需要在提高數(shù)據(jù)隱私安全性的同時(shí)降低數(shù)據(jù)獲取成本，而這些都可以通過邊緣處理來解決。傳統(tǒng)上，AI和機(jī)器學(xué)習(xí)等技術(shù)需要海量資源才能運(yùn)行，遠(yuǎn)非端點(diǎn)或智能設(shè)備通常可提供的量級(jí)。然而如今，硬件和軟件的進(jìn)步有可能把這些賦能技術(shù)嵌入到網(wǎng)絡(luò)邊緣更小型、資源更受限的設(shè)備中。

評(píng)估邊緣AI

在選擇能夠執(zhí)行邊緣處理并運(yùn)行AI算法或機(jī)器學(xué)習(xí)推理引擎的平臺(tái)前，必須進(jìn)行仔細(xì)評(píng)估。簡(jiǎn)單的傳感器和執(zhí)行器，甚至需要在物聯(lián)網(wǎng)中應(yīng)用的傳感器和執(zhí)行器，都可以通過較小的集成設(shè)備來實(shí)現(xiàn)。提高邊緣執(zhí)行處理量需要一個(gè)更強(qiáng)大的平臺(tái)，并應(yīng)用高度并行化的架構(gòu)。這通常意味著需要使用圖形處理器（GPU），但是如果平臺(tái)過于強(qiáng)大，也會(huì)給網(wǎng)絡(luò)邊緣有限的資源帶來負(fù)擔(dān)。

此外，邊緣設(shè)備從根本上來說是現(xiàn)實(shí)世界的一個(gè)接口，因此需要兼容一些如以太網(wǎng)、GPIO、CAN、串行和/或USB等常見接口技術(shù)，并支持如攝像頭、鍵盤和顯示器等外圍設(shè)備。

與環(huán)境因素可控的數(shù)據(jù)中心相比，邊緣環(huán)境可能截然不同：邊緣設(shè)備可能會(huì)暴露在極端的溫度、濕度、振動(dòng)，甚至高原環(huán)境中。這些因素將影響設(shè)備選擇及其包裝或安裝的方式。

還需考慮的另一重要方面是法規(guī)要求。任何使用射頻（RF）進(jìn)行通信的設(shè)備都會(huì)受到法規(guī)的管制，并且可能需要獲得許可才能使用。某些平臺(tái)能夠“開箱即用”，但其他平臺(tái)可能需要投入更多精力。平臺(tái)一旦投入使用，就不太可能進(jìn)行硬件升級(jí)，因此在設(shè)計(jì)平臺(tái)時(shí)就應(yīng)謹(jǐn)慎確定其處理能力、內(nèi)存和存儲(chǔ)，為將來的性能提升留出空間。

這其中就包括軟件升級(jí)。與硬件不同，軟件更新部署在設(shè)備不在現(xiàn)場(chǎng)的情況下也可實(shí)現(xiàn)。如今，這種無(wú)線更新（OTA）方式非常普遍，未來大多邊緣設(shè)備都可能支持OTA更新。

要想選對(duì)解決方案，需要仔細(xì)評(píng)估以上所有要點(diǎn)，并符合應(yīng)用的特定需求。設(shè)備是否需要處理視頻數(shù)據(jù)或音頻？它僅需要監(jiān)測(cè)溫度，還是也需要監(jiān)測(cè)其他環(huán)境指標(biāo)？它是否需要始終處于開啟狀態(tài)，還是會(huì)長(zhǎng)時(shí)間休眠？它會(huì)被外部事件觸發(fā)嗎？上述大部分要求適用于部署在邊緣的所有技術(shù)，但是隨著客戶對(duì)處理水平和產(chǎn)出的期望提高，需求清單也有必要隨之?dāng)U展。

邊緣計(jì)算的優(yōu)勢(shì)

從技術(shù)上講，現(xiàn)在AI和機(jī)器學(xué)習(xí)可以被應(yīng)用于邊緣設(shè)備和智能節(jié)點(diǎn)中，這將帶來重大的機(jī)遇。這意味著處理引擎不僅離數(shù)據(jù)源更近，而且可以利用所收集的數(shù)據(jù)，開展更多的工作。

邊緣計(jì)算的優(yōu)點(diǎn)著實(shí)不少。首先，它能夠提高其使用數(shù)據(jù)的生產(chǎn)率或效率。其次，由于需要移動(dòng)的數(shù)據(jù)較少，邊緣計(jì)算能夠簡(jiǎn)化網(wǎng)絡(luò)架構(gòu)。第三，它使設(shè)備與數(shù)據(jù)中心的鄰近性變得不那么重要。如果數(shù)據(jù)中心位于城市中心并離執(zhí)行任務(wù)的地點(diǎn)很近，那么最后一點(diǎn)似乎無(wú)足輕重，但是如果網(wǎng)絡(luò)邊緣位于如農(nóng)場(chǎng)或水處理工廠等遙遠(yuǎn)的地點(diǎn)，邊緣計(jì)算就會(huì)帶來很大的不同。

數(shù)據(jù)在互聯(lián)網(wǎng)上飛速移動(dòng)。當(dāng)?shù)弥约旱乃阉鹘Y(jié)果可能繞了地球兩圈才顯示在屏幕上，多數(shù)人可能會(huì)感到驚訝，因?yàn)榭偤臅r(shí)可能只有幾分之一秒，這對(duì)我們來說只是彈指瞬間。但是，對(duì)組成互聯(lián)、智能且通常是自主的傳感器和執(zhí)行器和其他智能設(shè)備而言，每秒鐘都像一小時(shí)。

這種往返延遲是實(shí)時(shí)系統(tǒng)的制造商和開發(fā)者需要重視的問題。數(shù)據(jù)往返于數(shù)據(jù)中心的耗時(shí)并非無(wú)關(guān)緊要，也肯定不是瞬時(shí)的，而縮短延遲就是邊緣計(jì)算的關(guān)鍵目標(biāo)。邊緣計(jì)算能夠與5G等速度更快的網(wǎng)絡(luò)整合。但需要注意的是，隨著越來越多的設(shè)備上線，網(wǎng)絡(luò)提速也將無(wú)法解決累積的網(wǎng)絡(luò)延遲問題。

據(jù)預(yù)測(cè)，到2030年，可能有多達(dá)500億互聯(lián)設(shè)備在線。如果每一臺(tái)設(shè)備都需要通往數(shù)據(jù)中心的寬帶，網(wǎng)絡(luò)將一直堵塞。如果每臺(tái)設(shè)備的操作都需要等待數(shù)據(jù)從上一階段到達(dá)才能進(jìn)行，總延遲很快就會(huì)變得非常明顯。因此，邊緣計(jì)算是緩解網(wǎng)絡(luò)堵塞的唯一實(shí)用解決方案。

然而，盡管大多數(shù)應(yīng)用都需要邊緣計(jì)算支持，但其優(yōu)勢(shì)仍很大程度上取決于應(yīng)用本身。邊緣計(jì)算定律將幫助工程團(tuán)隊(duì)確定邊緣計(jì)算是否適合某些特定應(yīng)用。

邊緣計(jì)算的四大定律

毋庸置疑，第一定律是物理定律。射頻能量的優(yōu)點(diǎn)是它能以光速傳播，就像光纖網(wǎng)絡(luò)中的光子一樣。但缺點(diǎn)是它們無(wú)法更快速地傳輸。因此，如果射頻能量的往返時(shí)間仍然較長(zhǎng)，邊緣計(jì)算可能更好的選擇。

Ping測(cè)試提供了一種簡(jiǎn)單的方法來測(cè)量數(shù)據(jù)包在兩個(gè)網(wǎng)絡(luò)端點(diǎn)之間傳輸所需的時(shí)間。在線游戲通常托管在多臺(tái)服務(wù)器上，游戲玩家需要對(duì)服務(wù)器進(jìn)行ping操作，直至找到延遲最小的服務(wù)器，以實(shí)現(xiàn)最快速的數(shù)據(jù)傳輸。由此可見，即使十分之一秒對(duì)于時(shí)間敏感型的數(shù)據(jù)也十分關(guān)鍵。

網(wǎng)絡(luò)延遲不只取決于傳輸機(jī)制。數(shù)據(jù)傳輸?shù)膬啥硕加?a href="http://ttokpm.com/tags/編碼器/" target="_blank">編碼器和解碼器，物理層需要將電子轉(zhuǎn)換為正在使用的某一能量形式，然后再將其轉(zhuǎn)換回去。即使處理器以GHz級(jí)的速度運(yùn)行，這一過程也需要時(shí)間，且移動(dòng)的數(shù)據(jù)量越大，所需時(shí)間越長(zhǎng)。

第二定律是經(jīng)濟(jì)學(xué)定律。該定律相對(duì)更為靈活，但是隨著對(duì)處理和存儲(chǔ)資源的需求猛增，其可預(yù)測(cè)性也越來越差。利潤(rùn)本就微薄，如果在云中處理數(shù)據(jù)的成本突然上升，就可能造成虧損。

云服務(wù)的成本包括購(gòu)買或租用服務(wù)器、機(jī)架或刀片。成本高低可能取決于CPU內(nèi)核數(shù)、所需的RAM或永久存儲(chǔ)量、以及服務(wù)級(jí)別。相較于缺乏保障的服務(wù)，可以保障正常運(yùn)營(yíng)時(shí)間所需的服務(wù)成本會(huì)更高。網(wǎng)絡(luò)帶寬基本上是免費(fèi)的，但是如果需要帶寬始終保持某一標(biāo)準(zhǔn)，則將需要為此服務(wù)付費(fèi)，在評(píng)估成本時(shí)需要考慮這一點(diǎn)。

話雖如此，邊緣數(shù)據(jù)處理的成本不會(huì)大幅波動(dòng)。一旦支付了設(shè)備的初始成本，在邊緣處理任何數(shù)量數(shù)據(jù)的額外成本幾乎為零。

數(shù)據(jù)有價(jià)值是由于其攜帶的信息。這就與第三定律有關(guān)，即土地定律?，F(xiàn)在，任何捕獲信息的人可能都需要遵守捕獲數(shù)據(jù)所在區(qū)域的數(shù)據(jù)隱私法。這意味著即使您是數(shù)據(jù)設(shè)備的合法所有者，可能也不被允許跨地理邊界傳輸該數(shù)據(jù)。

相關(guān)規(guī)定包括歐盟數(shù)據(jù)保護(hù)指令、通用數(shù)據(jù)保護(hù)條例（GDPR）和亞太經(jīng)濟(jì)合作組織隱私框架。加拿大的《個(gè)人信息保護(hù)和電子文件法》符合歐盟的數(shù)據(jù)保護(hù)法，而美國(guó)的《安全港安排》也顯示了類似的合規(guī)性。

然而，邊緣處理可以解決這一問題。通過在邊緣處理數(shù)據(jù)，數(shù)據(jù)就無(wú)需離開設(shè)備。便攜式消費(fèi)設(shè)備的數(shù)據(jù)隱私變得越來越重要。手機(jī)上的面部識(shí)別使用本地AI來處理相機(jī)圖像，因此數(shù)據(jù)永遠(yuǎn)不會(huì)離開設(shè)備。同樣，閉路電視（CCTV）和其他安全監(jiān)視系統(tǒng)使用攝像頭來監(jiān)控公共空間，圖像通常需要經(jīng)過基于云的數(shù)據(jù)服務(wù)器進(jìn)行傳輸與處理，這就帶來了數(shù)據(jù)隱私問題。通過邊緣計(jì)算，數(shù)據(jù)就可在攝像頭端直接處理，更快速安全，并有可能消除或簡(jiǎn)化對(duì)數(shù)據(jù)隱私措施的需求。

最后，我們要考慮墨菲定律，即如果某些地方可能出錯(cuò)，那么它終將出錯(cuò)。當(dāng)然，即使最精心設(shè)計(jì)的系統(tǒng)也總有可能出錯(cuò)。通過網(wǎng)絡(luò)傳輸數(shù)據(jù)、在云端存儲(chǔ)數(shù)據(jù)并在數(shù)據(jù)中心處理數(shù)據(jù)的整個(gè)過程中可能會(huì)出現(xiàn)許多故障，而邊緣處理可以避免冗長(zhǎng)過程中可能出現(xiàn)的故障。

提出有關(guān)邊緣計(jì)算的正確問題

即使您的應(yīng)用能夠受益于邊緣處理技術(shù)，仍然有一些問題需要加以考量。以下是一些最為相關(guān)的問題：

1.您的應(yīng)用在哪種處理器架構(gòu)上運(yùn)行？將軟件移植到不同的指令集上可能代價(jià)高昂并造成延遲，因此升級(jí)并不意味著要使用另一架構(gòu)。

2.您需要哪種I/O？這可以是任何數(shù)量的有線和/或無(wú)線接口。日后添加會(huì)導(dǎo)致效率低下，因此需要盡早確定。

3.設(shè)備的運(yùn)行環(huán)境如何？是極熱、極冷還是兩者兼而有之？火星任務(wù)是很好的“邊緣處理”示例，其運(yùn)行環(huán)境十分多變！

4.您的硬件是否需要遵守法規(guī)或經(jīng)過認(rèn)證？答案幾乎是肯定的，因此選擇經(jīng)過預(yù)認(rèn)證的平臺(tái)能夠節(jié)省時(shí)間和成本。

5.設(shè)備需要多大的功率？就單位成本和安裝而言，系統(tǒng)功能非常昂貴，因此了解到底多少算“足夠”非常重要。

6.邊緣設(shè)備是否受制于外形尺寸？與其他許多部署相比，這在邊緣處理中更為重要，因此在設(shè)計(jì)周期的早期就應(yīng)予以考慮。

7.服務(wù)時(shí)長(zhǎng)有多久？ 設(shè)備將用于可能需要運(yùn)行多年的工業(yè)應(yīng)用，還是以月為單位衡量生命周期？

8.就處理能力而言，系統(tǒng)性能要求是怎樣的？ 比如每秒的幀數(shù)？有哪些內(nèi)存要求？應(yīng)用使用什么語(yǔ)言？

9.有成本方面的考量嗎？這是一個(gè)棘手的問題，因?yàn)榇鸢甘强隙ǖ?，但是了解成本限制?huì)有助于您做出選擇。

結(jié)論

邊緣處理體現(xiàn)自物聯(lián)網(wǎng)，但還不止于此。其驅(qū)動(dòng)力來自于比實(shí)現(xiàn)上述互聯(lián)設(shè)備更高的期望。在基本層面上，設(shè)備可能需要低功耗低成本，但是現(xiàn)在還需要提供更高級(jí)別的智能操作，并且不影響功耗和成本。

選對(duì)技術(shù)合作伙伴，就能輕松選擇合適的平臺(tái)。凌華科技擁有廣泛的邊緣處理解決方案組合，并與眾多提供互補(bǔ)技術(shù)的公司合作。歡迎加入邊緣計(jì)算開發(fā)生態(tài)系統(tǒng)，我們將更好地助力您為AI應(yīng)用選擇合適的邊緣計(jì)算平臺(tái)。