邊緣機(jī)器學(xué)習(xí)成功的關(guān)鍵因素

智能邊緣設(shè)備的大量涌現(xiàn)已從根本上改變了人與機(jī)器間的交互。智能設(shè)備可豐富用戶體驗(yàn)，自動(dòng)化日常工作，增強(qiáng)流程和工作流程，提高企業(yè)生產(chǎn)力，促進(jìn)商業(yè)生產(chǎn)力和業(yè)務(wù)增長(zhǎng)，并提高人類社會(huì)的整體幸福感。促成這些變化的一項(xiàng)基本技術(shù)是邊緣機(jī)器學(xué)習(xí)（ML）。通過(guò)將推理工作負(fù)載置于邊緣，可針對(duì)處理和電源資源有限的環(huán)境簡(jiǎn)化并優(yōu)化機(jī)器學(xué)習(xí)實(shí)現(xiàn)。邊緣機(jī)器學(xué)習(xí)使智能更貼近終端設(shè)備，從而實(shí)現(xiàn)更快速更可靠的決策制定，同時(shí)維護(hù)數(shù)據(jù)安全與隱私。

ABI Research預(yù)測(cè)，2021年至2026年，具有邊緣機(jī)器學(xué)習(xí)功能的設(shè)備出貨量將以24.5%的平均復(fù)合增長(zhǎng)率（CAGR）增長(zhǎng)。開(kāi)發(fā)人員深知該市場(chǎng)潛力，都希望能夠利用該技術(shù)，但在開(kāi)發(fā)模型和產(chǎn)品時(shí)卻面臨著各種挑戰(zhàn)。值得慶幸的是，他們可以從不同邊緣機(jī)器學(xué)習(xí)解決方案提供商那里選擇適合自己的組件。

本白皮書(shū)概述了開(kāi)發(fā)人員在為其邊緣機(jī)器學(xué)習(xí)項(xiàng)目選擇最佳處理解決方案時(shí)需要考慮的關(guān)鍵因素，即定制的處理性能、更高的能源效率、易于使用的開(kāi)發(fā)環(huán)境、增強(qiáng)安全和廣泛的生態(tài)系統(tǒng)。關(guān)注這五個(gè)因素將有助于開(kāi)發(fā)人員進(jìn)行邊緣機(jī)器學(xué)習(xí)設(shè)計(jì)、開(kāi)發(fā)和部署，并使其能夠抓住邊緣機(jī)器學(xué)習(xí)市場(chǎng)的增長(zhǎng)機(jī)會(huì)。

邊緣機(jī)器學(xué)習(xí)和智能邊緣的興起

基于云的人工智能（AI）的普及已經(jīng)徹底改變了許多企業(yè)的決策制定過(guò)程。通過(guò)利用物聯(lián)網(wǎng)（IoT）的進(jìn)步，企業(yè)實(shí)現(xiàn)了資產(chǎn)、工具和設(shè)備與云端數(shù)據(jù)采集平臺(tái)互連。利用這些平臺(tái)，企業(yè)可收集實(shí)時(shí)數(shù)據(jù)進(jìn)行分析，以更好地了解其運(yùn)營(yíng)，同時(shí)發(fā)現(xiàn)實(shí)現(xiàn)進(jìn)一步優(yōu)化、安全和自動(dòng)化的機(jī)會(huì)。因此，基于云的人工智能已成為實(shí)現(xiàn)工作流程自動(dòng)化和提高運(yùn)營(yíng)效率的關(guān)鍵工具。

多年來(lái)，互聯(lián)設(shè)備的使用呈爆炸式增長(zhǎng)，全球物聯(lián)網(wǎng)連接總量從2014年的10億增長(zhǎng)至2021年的86億，達(dá)到35.4%。

圖表1 ：全球物聯(lián)網(wǎng)連接以及數(shù)據(jù)和分析服務(wù)收入：2014至2021

邊緣互聯(lián)時(shí)代使人們對(duì)從這些設(shè)備提取數(shù)據(jù)并實(shí)時(shí)理解這些數(shù)據(jù)產(chǎn)生了強(qiáng)烈需求。企業(yè)開(kāi)始采用基于云的人工智能服務(wù)和物聯(lián)網(wǎng)管理平臺(tái)，如實(shí)時(shí)數(shù)據(jù)流、采集和存儲(chǔ)、基于人工智能的數(shù)據(jù)分析以及描述性和預(yù)測(cè)性維護(hù)。

一般而言，人工智能主要有兩種類型，即基于規(guī)則的人工智能和基于機(jī)器學(xué)習(xí)的人工智能。

基于規(guī)則的人工智能模型為自動(dòng)化決策制定系統(tǒng)，基于人類專家知識(shí)構(gòu)建而成。雖然這些人工智能系統(tǒng)可提供確定性輸出，但它們受限于人類知識(shí)水平。隨著企業(yè)開(kāi)始采集更多數(shù)據(jù)，它們希望能夠了解所收集數(shù)據(jù)的含義，確定其環(huán)境并得出見(jiàn)解。然而，基于規(guī)則的人工智能模型并不是交付數(shù)據(jù)驅(qū)動(dòng)型見(jiàn)解的理想選擇。

另一方面，基于機(jī)器學(xué)習(xí)的人工智能模型可實(shí)現(xiàn)這一功能。機(jī)器學(xué)習(xí)模型可基于其分析的數(shù)據(jù)得出見(jiàn)解。同時(shí)，此類模型還可以在數(shù)據(jù)分析過(guò)程中自動(dòng)學(xué)習(xí)并提高自己的準(zhǔn)確性。近幾年，一種基于深度神經(jīng)網(wǎng)絡(luò)（DNN）的機(jī)器學(xué)習(xí)技術(shù)越來(lái)越受歡迎，即深度學(xué)習(xí)（DL）。深度學(xué)習(xí)模型的目標(biāo)是通過(guò)特征工程對(duì)大量數(shù)據(jù)進(jìn)行多層處理，以識(shí)別其模式，優(yōu)化決策制定并獲得更準(zhǔn)確的預(yù)測(cè)。

在機(jī)器學(xué)習(xí)開(kāi)發(fā)的早期階段，機(jī)器學(xué)習(xí)開(kāi)發(fā)人員將所有模型（包括訓(xùn)練和推理工作負(fù)載）托管在云中，以便利用云計(jì)算的可擴(kuò)展性、靈活性和成本效益。當(dāng)時(shí)的機(jī)器學(xué)習(xí)模型規(guī)模龐大，不適合部署在邊緣設(shè)備上。盡管基于云的人工智能可提供數(shù)據(jù)驅(qū)動(dòng)型見(jiàn)解，但該技術(shù)也面臨幾個(gè)根本的局限性 ：

連接

云人工智能需要持續(xù)的連接。云連接的丟失成為基于云的人工智能的單一故障點(diǎn)。企業(yè)需要在電信基礎(chǔ)設(shè)施方面投入更多資源，以保持邊緣設(shè)備的云連接。

用戶體驗(yàn)

云端處理需要一系列操作，首先將數(shù)據(jù)發(fā)送到云，對(duì)數(shù)據(jù)進(jìn)行修剪和處理，然后生成響應(yīng)。這一系列操作會(huì)引起延遲，因?yàn)橥瓿烧麄€(gè)流程需要時(shí)間，從而導(dǎo)致糟糕的用戶體驗(yàn)。

數(shù)據(jù)安全和隱私

基于云的人工智能要求在云中發(fā)送和處理所有數(shù)據(jù)。因此，基于云的人工智能成為許多用戶的關(guān)鍵和敏感信息存儲(chǔ)庫(kù)，從而成為黑客的攻擊目標(biāo)。此外，與單個(gè)邊緣設(shè)備攻擊相比，惡意分子只要投入足夠的時(shí)間和精力，就可以訪問(wèn)并操控云中的更多數(shù)據(jù)。

在了解基于云的人工智能面臨的挑戰(zhàn)后，機(jī)器學(xué)習(xí)開(kāi)發(fā)人員社區(qū)開(kāi)始采用新方法。他們通過(guò)智能邊緣讓智能更貼近終端設(shè)備。

智能邊緣可將數(shù)據(jù)處理和機(jī)器學(xué)習(xí)推理工作負(fù)載轉(zhuǎn)移到整套傳感器和邊緣設(shè)備中。利用設(shè)備端推理功能，設(shè)備可以收集實(shí)時(shí)數(shù)據(jù)點(diǎn)，處理數(shù)據(jù)，并生成數(shù)據(jù)驅(qū)動(dòng)型輸出，同時(shí)盡可能減少延遲。其目標(biāo)是利用關(guān)鍵任務(wù)數(shù)據(jù)進(jìn)行實(shí)時(shí)預(yù)測(cè)，包括機(jī)器視覺(jué)、語(yǔ)音識(shí)別、生物識(shí)別和異常檢測(cè)。

此外，在邊緣對(duì)原始數(shù)據(jù)進(jìn)行預(yù)處理意味著設(shè)備無(wú)需依賴持續(xù)的云連接。如今，以移動(dòng)為中心的設(shè)備（如自動(dòng)移動(dòng)機(jī)器人、無(wú)人機(jī)、機(jī)器人出租車(chē)和自動(dòng)消費(fèi)車(chē)）具備設(shè)備端機(jī)器學(xué)習(xí)功能，且無(wú)需以太網(wǎng)連接或無(wú)處不在的無(wú)線連接。此外，由于邊緣設(shè)備可處理原始數(shù)據(jù)，這些潛在的隱私關(guān)鍵型敏感數(shù)據(jù)不會(huì)再被發(fā)送到云端。這樣一來(lái)，企業(yè)就可以將網(wǎng)絡(luò)安全風(fēng)險(xiǎn)降至最低，并遵守消費(fèi)者數(shù)據(jù)隱私要求。

盡管機(jī)器學(xué)習(xí)具有一定優(yōu)勢(shì)，但智能邊緣的機(jī)器學(xué)習(xí)仍取決于設(shè)備和用例。為提供更全面的無(wú)縫用戶體驗(yàn)，邊緣設(shè)備需要具備環(huán)境感知功能。環(huán)境感知邊緣設(shè)備允許同一環(huán)境下的設(shè)備進(jìn)行通信和交互，并根據(jù)這些交互做出決策和預(yù)測(cè)。通過(guò)在這些設(shè)備中使用復(fù)雜的機(jī)器學(xué)習(xí)模型，未來(lái)的用例（如本地環(huán)境個(gè)性化、熄燈工廠以及遠(yuǎn)程患者診斷和護(hù)理）將開(kāi)始逐一實(shí)現(xiàn)。

盡管如此，在環(huán)境感知邊緣成為主流之前，行業(yè)仍需克服幾大障礙。

環(huán)境感知邊緣設(shè)備需要設(shè)備間無(wú)縫通信網(wǎng)絡(luò)和實(shí)時(shí)信息交換。

這些設(shè)備需要運(yùn)行高級(jí)模型，即多模態(tài)學(xué)習(xí)模型。這些模型通常需要密集型計(jì)算能力，以處理和協(xié)調(diào)來(lái)自多個(gè)傳感器的輸入，包括圖像、音頻、溫度、壓力和振動(dòng)數(shù)據(jù)。

許多開(kāi)發(fā)人員尚未在其產(chǎn)品中實(shí)現(xiàn)邊緣機(jī)器學(xué)習(xí)。

因此，業(yè)界迫切需要穩(wěn)定且易于使用的工具，以幫助機(jī)器學(xué)習(xí)開(kāi)發(fā)人員更加熟悉環(huán)境感知邊緣，并推動(dòng)創(chuàng)建高度創(chuàng)新型開(kāi)發(fā)人員社區(qū)。盡管邊緣機(jī)器學(xué)習(xí)行業(yè)距離環(huán)境感知邊緣仍有很長(zhǎng)的一段路要走，但隨著邊緣機(jī)器學(xué)習(xí)的快速普及，實(shí)現(xiàn)環(huán)境感知邊緣將指日可待。

邊緣機(jī)器學(xué)習(xí)成功的關(guān)鍵因素

邊緣機(jī)器學(xué)習(xí)時(shí)代已真正到來(lái)。ABI Research預(yù)測(cè)，2021年至2026年，具有邊緣機(jī)器學(xué)習(xí)功能的設(shè)備出貨量將以24.5%的CAGR增長(zhǎng)。越來(lái)越多的技術(shù)供應(yīng)商和公司開(kāi)始投入大量資源來(lái)開(kāi)發(fā)邊緣機(jī)器學(xué)習(xí)解決方案和用例。與具有標(biāo)準(zhǔn)化服務(wù)器和處理器的云環(huán)境不同，邊緣機(jī)器學(xué)習(xí)是一個(gè)多樣化市場(chǎng)，涵蓋了廣泛的垂直領(lǐng)域、設(shè)備外形、處理能力和用例。

圖表2表明，消費(fèi)電子設(shè)備（智能手機(jī)、游戲機(jī)、可穿戴設(shè)備和智能家居設(shè)備）是最大的邊緣機(jī)器學(xué)習(xí)市場(chǎng)，占整個(gè)市場(chǎng)份額的85%。然而，雖然消費(fèi)電子應(yīng)用仍對(duì)邊緣機(jī)器學(xué)習(xí)的開(kāi)發(fā)和創(chuàng)新具有高度影響，但越來(lái)越多的供應(yīng)商開(kāi)始尋求該垂直領(lǐng)域之外的發(fā)展機(jī)會(huì)。越來(lái)越多的供應(yīng)商開(kāi)始針對(duì)汽車(chē)、農(nóng)業(yè)、健康保健、工業(yè)和制造業(yè)、零售、機(jī)器人、智能樓宇、智慧城市、交通、物流和公用事業(yè)等特定垂直領(lǐng)域提供相應(yīng)解決方案。從2022年起，這些垂直領(lǐng)域?qū)吘墮C(jī)器學(xué)習(xí)的需求預(yù)計(jì)將呈指數(shù)級(jí)增長(zhǎng)。

通過(guò)具體了解幾個(gè)主要垂直領(lǐng)域，我們發(fā)現(xiàn)邊緣機(jī)器學(xué)習(xí)的重要性十分明顯 ：

汽車(chē)

汽車(chē)應(yīng)用一直都是邊緣機(jī)器學(xué)習(xí)開(kāi)發(fā)的主要驅(qū)動(dòng)因素。技術(shù)供應(yīng)商競(jìng)相推出針對(duì)高級(jí)駕駛輔助（ADAS）和自動(dòng)駕駛的硬件、軟件和服務(wù)。關(guān)鍵用例包括自適應(yīng)巡航控制、同步定位與建圖（SLAM）、駕駛員監(jiān)測(cè)、橫向和縱向輔助、夜視、個(gè)性化原始設(shè)備制造商（OEM）嵌入式信息娛樂(lè)系統(tǒng)以及無(wú)人出租車(chē)。

雖然目前市面上的大部分車(chē)輛都處于ADAS L0和L1水平，但預(yù)計(jì)汽車(chē)市場(chǎng)將經(jīng)歷快速變化。目前奧迪、福特、通用和特斯拉等新車(chē)普遍采用L2自動(dòng)駕駛技術(shù)。開(kāi)發(fā)人員正在努力實(shí)現(xiàn)L3和L4，早期的L5車(chē)輛將在2025年測(cè)試和發(fā)布。ABI Research預(yù)測(cè)，2021年至2026年，具有邊緣機(jī)器學(xué)習(xí)功能的汽車(chē)出貨量將增加4.5倍。

商用

邊緣機(jī)器學(xué)習(xí)普及的最明顯跡象就是邊緣機(jī)器學(xué)習(xí)設(shè)備在商業(yè)領(lǐng)域的涌現(xiàn)。ABI Research預(yù)測(cè)，未來(lái)五年，零售、智能樓宇以及交通物流領(lǐng)域的邊緣機(jī)器學(xué)習(xí)設(shè)備出貨量將分別增長(zhǎng)2倍、4倍和1.7倍。

零售商開(kāi)始逐漸部署面向智能付款臺(tái)、庫(kù)存監(jiān)控和倉(cāng)庫(kù)執(zhí)行的自動(dòng)解決方案。如今，商業(yè)樓宇配備了各種樓宇自動(dòng)化系統(tǒng)，這些系統(tǒng)利用智能傳感器和攝像頭進(jìn)行占位檢測(cè)、溫度調(diào)節(jié)以及確保安全。交通物流公司開(kāi)始在重型機(jī)械和基礎(chǔ)設(shè)施中部署智能傳感系統(tǒng)。例如 ：卡車(chē)和鐵路運(yùn)輸服務(wù)提供商可執(zhí)行設(shè)備管理和預(yù)測(cè)性維護(hù)，而倉(cāng)儲(chǔ)服務(wù)提供商則可以在其存儲(chǔ)設(shè)施中實(shí)施簡(jiǎn)單的貨盤(pán)計(jì)數(shù)和環(huán)境控制。

健康保健

與其他垂直行業(yè)相比，健康保健機(jī)構(gòu)在采用人工智能方面的進(jìn)展比較緩慢。進(jìn)展緩慢的主要原因包括嚴(yán)格的法規(guī)、屬于風(fēng)險(xiǎn)規(guī)避領(lǐng)域，以及優(yōu)先確保高準(zhǔn)確性和高精度的要求。因此，在可預(yù)測(cè)的未來(lái)，健康保健并不是邊緣機(jī)器學(xué)習(xí)市場(chǎng)的重要組成部分。

盡管如此，由于其基數(shù)較低，具有邊緣機(jī)器學(xué)習(xí)能力的健康保健設(shè)備出貨量預(yù)計(jì)在未來(lái)五年將實(shí)現(xiàn)6倍增長(zhǎng)。COVID-19疫情進(jìn)一步表明，健康保健是最迫切需要采用邊緣機(jī)器學(xué)習(xí)解決方案的領(lǐng)域之一。隨著智能醫(yī)院的出現(xiàn)，具有邊緣機(jī)器學(xué)習(xí)能力的醫(yī)療設(shè)備可以安全可靠地實(shí)現(xiàn)一些關(guān)鍵工作負(fù)載，包括患者監(jiān)護(hù)和篩查、臨床診斷、個(gè)性化治療、用藥處方、遠(yuǎn)程醫(yī)療等。醫(yī)院現(xiàn)在可以通過(guò)智能設(shè)備的操作洞察力來(lái)增強(qiáng)醫(yī)務(wù)人員的知識(shí)，從而有效地管理其資源、人員和能力。

工業(yè)

農(nóng)業(yè)、石油和天然氣以及制造業(yè)的工業(yè)企業(yè)都使用邊緣機(jī)器學(xué)習(xí)來(lái)實(shí)現(xiàn)整體效率的提升、缺陷檢查、預(yù)測(cè)性維護(hù)、工作場(chǎng)所安全管理和自動(dòng)物料處理。近期的工廠資產(chǎn)數(shù)字化也側(cè)重于流程自動(dòng)化、遠(yuǎn)程工廠車(chē)間操作以及靈活的基礎(chǔ)設(shè)施維護(hù)和升級(jí)。自動(dòng)移動(dòng)機(jī)器人和叉車(chē)中也部署了基于機(jī)器學(xué)習(xí)的機(jī)器視覺(jué)，以實(shí)現(xiàn)定位和導(dǎo)航、物品分揀、分類和分割。

鑒于這些數(shù)據(jù)對(duì)生產(chǎn)和工作流程的敏感性和關(guān)鍵性，工業(yè)和制造業(yè)公司對(duì)公布的數(shù)據(jù)非常謹(jǐn)慎。因此促進(jìn)了他們?cè)诠ぷ鲌?chǎng)所廣泛采用邊緣機(jī)器學(xué)習(xí)設(shè)備和服務(wù)器。由于起始基數(shù)小，具有邊緣機(jī)器學(xué)習(xí)能力的工業(yè)設(shè)備出貨量預(yù)計(jì)在未來(lái)五年將實(shí)現(xiàn)20倍增長(zhǎng)。

公共基礎(chǔ)設(shè)施

公共基礎(chǔ)設(shè)施是指部署在智慧城市中的邊緣機(jī)器學(xué)習(xí)設(shè)備。數(shù)十年來(lái)，城市一直面臨著擁堵、污染和安全等挑戰(zhàn)。因此，許多城市都在積極探索邊緣機(jī)器學(xué)習(xí)能力。例如 ：智能交通管理、自動(dòng)駕駛車(chē)輛、行人流量監(jiān)測(cè)和管理、物理和周邊安全以及預(yù)防性威脅檢測(cè)等應(yīng)用都部署了具有深度學(xué)習(xí)模型的智能攝像頭，以實(shí)現(xiàn)決策制定的自動(dòng)化和增強(qiáng)。

與此同時(shí)，智能傳感器已被嵌入各種公共資產(chǎn)和基礎(chǔ)設(shè)施中，以收集信息，并提供公共場(chǎng)所的洞見(jiàn)，從而創(chuàng)建可持續(xù)的彈性城市。因此，預(yù)計(jì)2021年至2026年的出貨量將翻倍。

為有效地應(yīng)對(duì)上述邊緣設(shè)備和用例的多樣性，機(jī)器學(xué)習(xí)開(kāi)發(fā)人員需要擁有數(shù)據(jù)操作、機(jī)器學(xué)習(xí)工程、嵌入式系統(tǒng)設(shè)計(jì)以及邊緣機(jī)器學(xué)習(xí)硬件和軟件方面的大量專業(yè)知識(shí)。然而，并非所有開(kāi)發(fā)人員都具備成功實(shí)施邊緣機(jī)器學(xué)習(xí)項(xiàng)目所需的知識(shí)。同時(shí)，邊緣機(jī)器學(xué)習(xí)應(yīng)用必須得到最優(yōu)機(jī)器學(xué)習(xí)硬件的支持，以實(shí)現(xiàn)成本、性能和能效之間的適當(dāng)平衡。最后，如果沒(méi)有來(lái)自邊緣機(jī)器學(xué)習(xí)處理器供應(yīng)商的重要貢獻(xiàn)，邊緣機(jī)器學(xué)習(xí)的市場(chǎng)滲透將是有限的。

芯片供應(yīng)商應(yīng)組合必要的工具，以幫助整個(gè)開(kāi)發(fā)人員生態(tài)系統(tǒng)克服這些限制，特別是針對(duì)機(jī)器學(xué)習(xí)開(kāi)發(fā)人 員。近年來(lái)邊緣機(jī)器學(xué)習(xí)處理器供應(yīng)商針對(duì)推動(dòng)邊緣機(jī)器普及的五個(gè)關(guān)鍵因素推出了一些創(chuàng)新解決方案： 處理性能、能效、開(kāi)發(fā)環(huán)境、增強(qiáng)安全以及供應(yīng)商生態(tài)系統(tǒng)。

閱讀完整研究報(bào)告

在本研究報(bào)告接下來(lái)的章節(jié)中，將詳細(xì)分析推動(dòng)邊緣機(jī)器學(xué)習(xí)普及的五個(gè)關(guān)鍵因素，并對(duì)未來(lái)的前景進(jìn)行展望，主要的內(nèi)容包括：

定制的處理能力

更高的能源效率

易于使用的開(kāi)發(fā)環(huán)境

增強(qiáng)安全

大型生態(tài)系統(tǒng)

邊緣機(jī)器學(xué)習(xí)的普及

原文標(biāo)題：邊緣機(jī)器學(xué)習(xí)的大眾時(shí)代：讀懂AI，這份研究報(bào)告值得反復(fù)研讀（內(nèi)附下載鏈接）

文章出處：【微信公眾號(hào)：NXP客棧】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。