邊緣AI需求爆發(fā)，邊緣計(jì)算網(wǎng)關(guān)亟待革新

電子發(fā)燒友網(wǎng)報(bào)道（文/吳子鵬）根據(jù)《全球與中國(guó)邊緣AI芯片市場(chǎng)競(jìng)爭(zhēng)建議及發(fā)展?fàn)顩r調(diào)研報(bào)告2024-2030》，2023年全球邊緣AI芯片市場(chǎng)規(guī)模大約為2563.6百萬(wàn)美元，預(yù)計(jì)未來(lái)六年年復(fù)合增長(zhǎng)率CAGR為17.4%，到2030年達(dá)到8004.3百萬(wàn)美元。如果將范圍擴(kuò)大到整個(gè)邊緣AI市場(chǎng)，根據(jù)英特爾公司高級(jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti在分享中提到的數(shù)據(jù)，2030年全球邊緣AI市場(chǎng)將達(dá)到4450億美元的規(guī)模。

在構(gòu)建邊緣AI方案時(shí)，計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)和應(yīng)用等資源都被移到更靠近終端的位置，以提供更低的延遲和更高的性能。在此過(guò)程中，邊緣計(jì)算網(wǎng)關(guān)起到重要的作用：一方面作為邊緣和云端連接的重要樞紐，將邊端計(jì)算的數(shù)據(jù)傳回云端；另一方面邊緣計(jì)算網(wǎng)關(guān)也能夠協(xié)調(diào)邊緣端的多款設(shè)備，協(xié)調(diào)這些設(shè)備的計(jì)算資源和計(jì)算任務(wù)。

基于邊緣計(jì)算網(wǎng)關(guān)實(shí)現(xiàn)更好的終端智能

作為邊緣計(jì)算和網(wǎng)關(guān)的結(jié)合體，邊緣計(jì)算網(wǎng)關(guān)帶來(lái)了一種分布式計(jì)算范式，將計(jì)算任務(wù)和數(shù)據(jù)存儲(chǔ)從中心化的數(shù)據(jù)中心推向網(wǎng)絡(luò)的邊緣——終端設(shè)備。因而，邊緣計(jì)算網(wǎng)關(guān)通常部署在網(wǎng)絡(luò)的邊緣側(cè)，提供數(shù)據(jù)采集、處理、存儲(chǔ)和通信等功能。

由于是部署在現(xiàn)場(chǎng)的終端，因此邊緣計(jì)算網(wǎng)關(guān)具有很多突出的優(yōu)勢(shì)：低延遲、高安全并降低云端的計(jì)算負(fù)載。

邊緣計(jì)算網(wǎng)關(guān)具有一定的計(jì)算能力，可以將數(shù)據(jù)處理在更靠近終端的場(chǎng)景下實(shí)現(xiàn)，因此有明顯的低延遲特性。像工業(yè)自動(dòng)化、智能交通和智能家居等對(duì)數(shù)據(jù)處理時(shí)效要求高的領(lǐng)域，邊緣計(jì)算網(wǎng)關(guān)能夠?qū)崟r(shí)采集來(lái)自各種傳感器和執(zhí)行器的數(shù)據(jù)，并將這些數(shù)據(jù)進(jìn)行整合和標(biāo)準(zhǔn)化處理，這一低延遲特性被格外看重。

邊緣計(jì)算網(wǎng)關(guān)將數(shù)據(jù)采集和處理都在更靠近終端的場(chǎng)景下完成，減少了數(shù)據(jù)的傳輸，也就降低了數(shù)據(jù)在網(wǎng)絡(luò)傳輸中暴露的風(fēng)險(xiǎn)。在云AI場(chǎng)景里，敏感數(shù)據(jù)總是會(huì)在終端和云端之間反復(fù)地傳輸，有非常大的泄露風(fēng)險(xiǎn)，而有了邊緣計(jì)算網(wǎng)關(guān)，云端最終接收到的數(shù)據(jù)都是脫敏的結(jié)果數(shù)據(jù)。

同時(shí)，我們也不難看出，邊緣計(jì)算網(wǎng)關(guān)將計(jì)算任務(wù)進(jìn)行了有效地分發(fā)，而不是全部集中在云計(jì)算場(chǎng)景下，也能夠有效降低云計(jì)算的負(fù)載。當(dāng)然，市場(chǎng)需求在不斷變化，對(duì)于邊緣計(jì)算網(wǎng)關(guān)也提出了更高的要求，包括高算力、低功耗、智能化和靈活部署。

邊緣計(jì)算網(wǎng)關(guān)著力強(qiáng)化計(jì)算性能

在新的市場(chǎng)需求下，邊緣計(jì)算網(wǎng)關(guān)成為普惠算力的一類關(guān)鍵設(shè)備，相關(guān)設(shè)備的核心性能也變得越來(lái)越強(qiáng)，產(chǎn)業(yè)界涌現(xiàn)出一系列具有競(jìng)爭(zhēng)力的新品。

比如，聯(lián)想集團(tuán)打造了智能邊緣計(jì)算品牌“慧天”，包括智能邊緣網(wǎng)關(guān)、邊緣服務(wù)器、工業(yè)控制器、嵌入式計(jì)算機(jī)等硬件設(shè)備。這些設(shè)備可以讓相關(guān)應(yīng)用在邊緣硬件上處理AI算法，并且有5G的加持，和云端的互動(dòng)也更加高效。

2024年初，TSINGSEE青犀視頻在年初推出了一款高性能、低功耗的軟硬一體AI邊緣計(jì)算硬件設(shè)備——智能分析網(wǎng)關(guān)V4，硬件采用BM1684芯片，集成高性能8核ARM A53，主頻高達(dá)2.3GHz。這款智能網(wǎng)關(guān)提供高達(dá)17.6/32 Tops的INT8峰值算力，2.2T的FB32高精度算力，支持高達(dá)16 TFLOPS的FP16/BF16半精度算力，以及支持高達(dá)16/32路1080P高清視頻全流程處理。在安全方面，支持高容量eMMC可開(kāi)發(fā)支持主備分區(qū)和可編程加密分區(qū)等加密技術(shù)。

去年下半年，Dusun IoT基于Rockchip的RK3588芯片推出了DSGW-380邊緣人工智能網(wǎng)關(guān)。作為系統(tǒng)核心，RK3588芯片提供四核Arm Cortex A76和四核Arm Cortex A55架構(gòu)，配備NEON協(xié)處理器，專用于低功耗控制的MCU，以及寬大的8GB 64位LPDDR4 RAM和128GB eMMC。RK3588讓DSGW-380邊緣人工智能網(wǎng)關(guān)提供6TOPS的計(jì)算算力，能夠無(wú)縫支持包括INT4、INT8、INT16和FP16混合操作等多種精確操作。

另外，前不久研揚(yáng)科技基于昇騰Atlas?200I?A2加速模組，打造了電力通信邊緣AI網(wǎng)關(guān)ARES-501AI?A2，使能客戶在Mega?OM平臺(tái)的基礎(chǔ)上快速對(duì)接管理自己的運(yùn)維平臺(tái)。ARES-501AI?A2智能網(wǎng)關(guān)能夠提供高達(dá)20TOPS?(INT8）的強(qiáng)勁算力，擁有豐富的工業(yè)級(jí)I/O接口，包括RS232/RS485、USB?3.0*4、GbE?LAN*2、CAN*2等。

通過(guò)上述案例不難看出，目前邊緣計(jì)算網(wǎng)關(guān)一個(gè)重要的升級(jí)方向就是提供高算力，并強(qiáng)化算法的承載能力。不過(guò)，這些性能的提升并不能犧牲系統(tǒng)功耗，因此在相關(guān)產(chǎn)品中，往往會(huì)配合低功耗的MCU，配合低功耗的外設(shè)，以最低的系統(tǒng)功耗去運(yùn)行非計(jì)算的控制功能，并將系統(tǒng)運(yùn)行功耗進(jìn)行更細(xì)分的區(qū)分。

結(jié)語(yǔ)

在邊緣AI爆發(fā)的大潮下，邊緣計(jì)算網(wǎng)關(guān)也在朝著邊緣智能網(wǎng)關(guān)的方向發(fā)展，一個(gè)重要的標(biāo)志就是NPU逐漸成為網(wǎng)關(guān)內(nèi)核心的一部分，且系統(tǒng)算力得到了顯著提升。當(dāng)然，由于部署在邊緣端，且設(shè)備數(shù)量巨大，因此低功耗將一直都是邊緣計(jì)算網(wǎng)關(guān)更新過(guò)程中需要面對(duì)的挑戰(zhàn)。