5G、IoT和邊緣計(jì)算將會(huì)碰撞出怎樣的火花

“顛覆性時(shí)代”或許是對我們所處時(shí)代最恰當(dāng)?shù)拿枋觥?/p>

大數(shù)據(jù)、AI、5G、IoT……數(shù)年之內(nèi)各項(xiàng)顛覆性技術(shù)漸次爆發(fā)、交相輝映，更有趣的是，這些具有顛覆能力的技術(shù)并不是獨(dú)立發(fā)展的，相反，它們是如此的盤根錯(cuò)節(jié)、相輔相成。甚至，大數(shù)據(jù)、IoT 和 AI 的組合可以為未來帶來無限潛力，而能夠?qū)⑦@些技術(shù)“粘合”到一起的是邊緣計(jì)算。

何為邊緣計(jì)算？新思科技（Synopsys）產(chǎn)品營銷經(jīng)理 Ron Lowman指出，邊緣計(jì)算有很多術(shù)語，包括“邊緣云計(jì)算”和“霧計(jì)算”。邊緣計(jì)算的概念通常被描述為在本地服務(wù)器上運(yùn)行的應(yīng)用程序，旨在將云進(jìn)程更靠近終端設(shè)備。

當(dāng)前，邊緣計(jì)算迎來了科技巨頭亞馬遜、谷歌和微軟的追捧，他們也正成為這一領(lǐng)域的領(lǐng)先者，除此之外，華為、富士通和諾基亞等企業(yè)也紛紛跟進(jìn)。邊緣計(jì)算究竟有何魔力，引來各路“英雄”的青睞？

邊緣計(jì)算的價(jià)值

傳統(tǒng)方式是，傳感器、攝像頭、麥克風(fēng)以及一系列不同的 IoT 和移動(dòng)設(shè)備從其位置收集數(shù)據(jù)，并將數(shù)據(jù)發(fā)送到集中式數(shù)據(jù)中心或云。

然而到了2020 年，全世界會(huì)有超過500億臺智能設(shè)備實(shí)現(xiàn)連接。這些設(shè)備每年將產(chǎn)生以ZB計(jì)的數(shù)據(jù)，到2025年數(shù)據(jù)將增長到150ZB以上。

互聯(lián)網(wǎng)的核心在于可靠地將設(shè)備彼此連接并與云連接，從而有助于確保數(shù)據(jù)包到達(dá)目的地。但是，如果將所有這些數(shù)據(jù)發(fā)送到云，還是會(huì)帶來一些重大問題。

首先，150ZB 的數(shù)據(jù)會(huì)造成容量問題。其次，就能源、帶寬和計(jì)算能力而言，將大量數(shù)據(jù)從其原始位置傳輸?shù)郊惺綌?shù)據(jù)中心代價(jià)高昂。據(jù)估計(jì)，目前有12%的數(shù)據(jù)獲得其持有公司進(jìn)行分析，僅3%的數(shù)據(jù)有助于產(chǎn)生有意義的結(jié)果（也就是有97%的數(shù)據(jù)在收集和傳輸之后就被浪費(fèi)了），而這些被浪費(fèi)的數(shù)據(jù)卻概括了需要解決的運(yùn)營效率問題。再者，存儲、傳輸和分析數(shù)據(jù)能耗巨大，因此，如何找到一種有效的方法來降低成本、減少浪費(fèi)顯得尤為必要。

為了解決這些難題，邊緣計(jì)算應(yīng)用而生。它能幫助在本地存儲數(shù)據(jù)并降低傳輸成本。除解決容量、能源和成本問題外，它還可以提高網(wǎng)絡(luò)的可靠性，使應(yīng)用程序在網(wǎng)絡(luò)中斷期間還能夠繼續(xù)運(yùn)行。另外，它還能通過清除某些威脅配置文件（例如全局?jǐn)?shù)據(jù)中心拒絕服務(wù)（DoS）攻擊），以提高安全性。

最重要的是，邊緣計(jì)算能夠?yàn)閷?shí)時(shí)用例（例如虛擬現(xiàn)實(shí)商場和移動(dòng)設(shè)備視頻緩存）提供低延遲計(jì)算的能力，從而催生新的服務(wù)，使設(shè)備能夠在自動(dòng)駕駛、游戲平臺或具有挑戰(zhàn)性的快節(jié)奏制造環(huán)境中提供更多創(chuàng)新型的應(yīng)用。

簡而言之，盡管“邊緣計(jì)算”的概念未必是革命性的，但它的實(shí)現(xiàn)將帶來更多可能?！斑@些實(shí)現(xiàn)將解決包括降低大型數(shù)據(jù)中心能耗，提高專用數(shù)據(jù)安全性，實(shí)現(xiàn)故障安全解決方案，降低信息存儲量和通信成本，以及通過降低延遲能力來開創(chuàng)新應(yīng)用等日益嚴(yán)重的問題?！毙滤伎萍籍a(chǎn)品營銷經(jīng)理 Ron Lowman提到。

美國超微電腦股份有限公司（Supermicro）IoT和嵌入式設(shè)備副總裁兼總經(jīng)理Michael Clegg則以生活實(shí)例做類比點(diǎn)明邊緣計(jì)算的意義：“通過邊緣計(jì)算處理信息，大大縮短信息處理延遲的時(shí)間。這就如同一家連鎖披薩餐廳在很多社區(qū)都開設(shè)分店，不僅避免由從總店送餐帶來的不必要壓力，同時(shí)提高時(shí)效性且保證了食物的新鮮度。”

邊緣計(jì)算助力5G和IoT提高處理數(shù)據(jù)的效率

作為與邊緣計(jì)算同時(shí)代出現(xiàn)的顛覆性技術(shù)，5G、IoT和邊緣計(jì)算三者的“相遇”又能碰撞出怎樣的火花？新思科技產(chǎn)品營銷經(jīng)理 Ron Lowman表示：“5G基礎(chǔ)架構(gòu)是邊緣計(jì)算最具說服力的驅(qū)動(dòng)力之一。5G電信提供商發(fā)現(xiàn)了在其基礎(chǔ)架構(gòu)之上提供服務(wù)的機(jī)會(huì)。除了傳統(tǒng)的數(shù)據(jù)和語音連接外，5G 電信提供商還可以通過構(gòu)建生態(tài)系統(tǒng)的方式，托管本地獨(dú)特的應(yīng)用。也就是說，通過將服務(wù)器置于所有基站旁邊，蜂窩流量提供商可以向第三方主機(jī)應(yīng)用開放其網(wǎng)絡(luò)，從而改善帶寬和延遲?！?/p>

據(jù)了解，Netflix 等流媒體服務(wù)通過其 Netflix Open Connect已與本地 ISP 合作，以將高流量內(nèi)容托管在距離用戶更近的地方。借助5G的多接入邊緣計(jì)算 （MEC） 計(jì)劃，電信提供商發(fā)現(xiàn)了為流內(nèi)容、游戲和未來的新應(yīng)用提供類似服務(wù)的機(jī)會(huì)。電信提供商認(rèn)為，他們能以付費(fèi)服務(wù)的方式，向所有人開放這一功能，讓需要較低延遲的人可以為在邊緣而非在云端定位應(yīng)用支付額外的費(fèi)用。

Credence Research 認(rèn)為，到 2026 年，整個(gè)邊緣計(jì)算市場的價(jià)值將為 96 億美元左右。電信行業(yè)更被認(rèn)為是邊緣計(jì)算發(fā)展最快的增長動(dòng)力，它們將占據(jù)邊緣計(jì)算市場總量的三分之一。除此之外，web scale、工業(yè)和企業(yè)集團(tuán)也同時(shí)為其傳統(tǒng)市場提供邊緣計(jì)算硬件、軟件和服務(wù)開創(chuàng)新的應(yīng)用機(jī)遇。

其實(shí)，我們利用邊緣計(jì)算可以極大地提高處理數(shù)據(jù)的效率。以美國快餐店Chick-fil-A為例，其成功地使用本地服務(wù)器將數(shù)百個(gè)傳感器和控制器與相對便宜的本地設(shè)備聚合在一起，實(shí)現(xiàn)了本地運(yùn)行以防止任何網(wǎng)絡(luò)中斷。2018年Chick-Fil-A在其博客上評論道：“通過提高廚房設(shè)備智能化，我們能夠收集更多數(shù)據(jù)，并將其應(yīng)用在餐廳應(yīng)用中，構(gòu)建更多的智能系統(tǒng)以進(jìn)一步拓展業(yè)務(wù)?！睆臄?shù)據(jù)方面證明，采用邊緣計(jì)算的餐廳，能夠處理的業(yè)務(wù)量是最初計(jì)劃的三倍。

總而言之，成功的邊緣計(jì)算基礎(chǔ)架構(gòu)需要結(jié)合本地服務(wù)器計(jì)算功能、AI 計(jì)算功能以及與移動(dòng)/汽車/IoT 計(jì)算系統(tǒng)的連接（圖 1）。

圖 1：邊緣計(jì)算通過使用微數(shù)據(jù)中心來分析和處理數(shù)據(jù)，從而使云計(jì)算過程更靠近終端設(shè)備。

對此，CompTIA首席技術(shù)推廣人James Stanger 博士進(jìn)一步講解到：“隨著物聯(lián)網(wǎng) （IoT） 連接越來越多的設(shè)備，網(wǎng)絡(luò)正在從以高速公路和中央位置之間往返輸送的主要模式，過渡到類似于媒介存儲和處理設(shè)備相互交織的蜘蛛網(wǎng)狀態(tài)。邊緣計(jì)算可以很好的實(shí)現(xiàn)這類應(yīng)用，一改在集中式數(shù)據(jù)處理倉庫中捕獲、存儲、處理和分析數(shù)據(jù)的做法，并將其轉(zhuǎn)移到生成數(shù)據(jù)的客戶端附近。因此，數(shù)據(jù)更應(yīng)該存儲在網(wǎng)絡(luò)‘邊緣’的中間點(diǎn)，而非始終存儲在中央服務(wù)器或數(shù)據(jù)中心?！?/p>

邊緣計(jì)算發(fā)揮改善延遲優(yōu)勢的實(shí)例

在實(shí)際用例中，邊緣計(jì)算又是如何改善延遲問題呢？

羅格斯大學(xué)和 Inria 使用 Microsoft HoloLens 4來分析邊緣計(jì)算的可擴(kuò)展性和性能。在實(shí)際用例中，HoloLens 首先讀取條形碼信息，再使用建筑物中的場景分割功能將用戶導(dǎo)航到指定房間，最后在Hololens中顯示箭頭。這一過程同時(shí)使用映射坐標(biāo)的小數(shù)據(jù)包和連續(xù)視頻的較大數(shù)據(jù)包，以驗(yàn)證和對比邊緣計(jì)算與傳統(tǒng)云計(jì)算延遲的改善。HoloLens 最初讀取二維碼，然后將坐標(biāo)數(shù)據(jù)發(fā)送到邊緣服務(wù)器。該服務(wù)器使用4個(gè)字節(jié)加上標(biāo)頭，僅花費(fèi)1.2ms。然后服務(wù)器找到坐標(biāo)，并通知用戶具體位置，全程耗時(shí) 16.22 ms。如果將同樣的數(shù)據(jù)包直接發(fā)送到云端，則大約需要 80ms（圖 2）。

圖 2：比較邊緣設(shè)備到云服務(wù)器與邊緣設(shè)備到邊緣云服務(wù)器的延遲。

同樣，他們測試在使用 OpenCV 進(jìn)行場景分割時(shí)，將 Hololens 的用戶導(dǎo)航到適當(dāng)位置帶來的延遲時(shí)間。如果將數(shù)據(jù)流傳輸?shù)竭吘売?jì)算服務(wù)器，需要4.9ms，而OpenCV 處理圖像額外花費(fèi)37ms，總計(jì)時(shí)47.7 ms。而傳統(tǒng)云服務(wù)器上的相同過程則花費(fèi)將近115 ms時(shí)間，這一案例足以展示邊緣計(jì)算在降低延遲方面的明顯優(yōu)勢。

以此類推，既然邊緣計(jì)算比云計(jì)算更具優(yōu)勢，那么將數(shù)據(jù)計(jì)算全都轉(zhuǎn)移到邊緣設(shè)備端會(huì)是最好的解決方案嗎？

事實(shí)并不是如此（圖 3）。在 HoloLens 案例研究中，數(shù)據(jù)使用的SQL數(shù)據(jù)庫太大，無法存儲在耳機(jī)中?，F(xiàn)在大多數(shù)的邊緣設(shè)備，特別是發(fā)生物理磨損的設(shè)備，沒有足夠的計(jì)算能力來處理大型數(shù)據(jù)集。拋開計(jì)算能力不談，云或邊緣服務(wù)器上的軟件開發(fā)成本更低。

圖 3：比較云計(jì)算和邊緣計(jì)算與端點(diǎn)設(shè)備。

邊緣計(jì)算對服務(wù)器系統(tǒng) SoC有何影響？

許多邊緣計(jì)算應(yīng)用的主要目標(biāo)都是圍繞如何降低延遲而展開的。為了達(dá)到較低的延遲，許多新系統(tǒng)都采用最新的行業(yè)接口標(biāo)準(zhǔn)，包括 PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于 PCIe 的 NVMe 以及其他基于新一代標(biāo)準(zhǔn)的技術(shù)。與上一代產(chǎn)品相比，這些技術(shù)都可以通過改進(jìn)帶寬來降低延遲。

所以，這些邊緣計(jì)算系統(tǒng)均增加了AI加速功能。

一般來講，服務(wù)器芯片通過 x86 擴(kuò)展AVX-512 向量神經(jīng)網(wǎng)絡(luò)指令（AVX512 VNNI） 等新指令提供 AI 加速。很多時(shí)候，這種額外的指令集不足以提供預(yù)期任務(wù)所需的低延遲和低功耗功能，所以大多數(shù)新系統(tǒng)中還添加了自定義 AI 加速器。

除了本地網(wǎng)關(guān)和聚合服務(wù)器系統(tǒng)外，單個(gè) AI 加速器通常無法提供足夠的性能，所以需要借助帶寬非常高的裸片到裸片 SerDes PHY 來幫助這些加速器。新思科技最新發(fā)布的 PHY 支持56G和112G連接。

此外，AI 算法正在突破內(nèi)存帶寬要求的極限。例如，最新的 BERT 和 GPT-2 型號分別需要 345M 和 1.5B 參數(shù)。顯然，這不僅需要高容量的內(nèi)存能力支持，還需把許多復(fù)雜的應(yīng)用放在邊緣云執(zhí)行。為了支持實(shí)現(xiàn)這種能力，設(shè)計(jì)人員正計(jì)劃在新的芯片組中采用 DDR5。除了容量挑戰(zhàn)之外，還需要存取 AI 算法的系數(shù)，以便進(jìn)行非線性中的大量計(jì)算。因此，HBM2e 迅速成為被廣泛采用的另一種最新技術(shù)應(yīng)用，有些芯片實(shí)現(xiàn)了單芯片中的多次 HBM2e 實(shí)例化。

圖 4：通用 AI SoC 具有高速、高帶寬、內(nèi)存、主機(jī)到加速器，以及高速芯片到芯片接口，用于擴(kuò)展多個(gè) AI 加速器。

邊緣計(jì)算加入AI功能，應(yīng)對不同場景需求

Ron Lowman所屬的開發(fā)團(tuán)隊(duì)研究了邊緣計(jì)算的不同類型需求，發(fā)現(xiàn)區(qū)域數(shù)據(jù)中心、本地服務(wù)器和聚合網(wǎng)關(guān)都有不同的計(jì)算、延遲和功率需求。他認(rèn)為：“未來需求顯然集中在降低往返響應(yīng)的延遲，降低特定邊緣應(yīng)用的功率，以及確保有足夠的處理能力來處理特定任務(wù)上?！?/p>

因此，新一代解決方案不僅具有更低的延遲和功耗，而且還需納入 AI 功能，也就是 AI 加速器。這些 AI 加速器的性能也會(huì)根據(jù)需求的擴(kuò)展而不斷變化。

“AI 和邊緣計(jì)算的需求正在迅速變化，在過去兩年中我們看到許多解決方案已取得了進(jìn)步，并將繼續(xù)加以改進(jìn)。未來，需要處理的數(shù)據(jù)將不斷變化，所以我們需要不斷提高性能、降低功耗和總體延遲?！盧on Lowman如是說。

圖 5：新一代服務(wù)器 SoC 再加上 AI 加速器，大大提高邊緣計(jì)算速度。

總的來說，邊緣計(jì)算是實(shí)現(xiàn)數(shù)據(jù)快速連接的一項(xiàng)重要技術(shù)。它將云服務(wù)更靠近邊緣設(shè)備，降低延遲，為消費(fèi)者提供新的應(yīng)用和服務(wù)；還將衍生出更多的 AI 功能，將其擴(kuò)展到云以外。此外，它還將成為支持未來混合計(jì)算的基礎(chǔ)技術(shù)。

責(zé)任編輯：gt