實(shí)施邊緣人工智能如何評(píng)估正確的選擇

也許公司在實(shí)施邊緣人工智能時(shí)面臨的最大問(wèn)題是大多數(shù)公司沒(méi)有內(nèi)部資源來(lái)開(kāi)發(fā)這些復(fù)雜的快速變化的技術(shù)。缺乏訓(xùn)練有素的人員和對(duì)設(shè)計(jì)流程的不熟悉通常會(huì)導(dǎo)致時(shí)間延遲和培訓(xùn)團(tuán)隊(duì)成員的額外費(fèi)用。另外，選擇太多，工程師不可能每個(gè)選項(xiàng)都去探索。而且由于每個(gè)應(yīng)用程序都不同，因此可能不適合根據(jù)過(guò)去的實(shí)現(xiàn)來(lái)復(fù)制解決方案。但是，通過(guò)提出幾個(gè)關(guān)鍵問(wèn)題并找到合適的合作伙伴將您的項(xiàng)目從構(gòu)思轉(zhuǎn)變?yōu)?a target="_blank">芯片，任何企業(yè)都可以制定路線圖，在其設(shè)備中成功部署邊緣 AI。

定義用例和可行性

在探索實(shí)現(xiàn)選項(xiàng)之前定義用例很重要。任何企業(yè)都應(yīng)該問(wèn)的第一個(gè)問(wèn)題是：客戶會(huì)發(fā)現(xiàn)什么是真正有用的？在確定客戶想要的功能后，您的團(tuán)隊(duì)需要設(shè)定開(kāi)發(fā)和生產(chǎn)成本目標(biāo)以及可接受的上市時(shí)間。

現(xiàn)在是具有挑戰(zhàn)性的部分——做出與技術(shù)相關(guān)的決策。是否有可能在您正在處理的成本、時(shí)間、功率和空間權(quán)衡內(nèi)實(shí)現(xiàn)該功能？在此階段，與經(jīng)驗(yàn)豐富的合作伙伴/顧問(wèn)合作或借鑒內(nèi)部經(jīng)驗(yàn)至關(guān)重要。你不會(huì)有完美的數(shù)據(jù)來(lái)做你的決定，所以實(shí)際經(jīng)驗(yàn)對(duì)于做出這些判斷是必不可少的。

技術(shù)選擇

團(tuán)隊(duì)可以做出多種選擇來(lái)在產(chǎn)品中實(shí)現(xiàn)客戶所需的功能。根據(jù)您的可用資源和開(kāi)發(fā)時(shí)間，團(tuán)隊(duì)可能會(huì)考慮以下一些選擇：

• 僅在現(xiàn)有嵌入式處理器上的軟件——這可能需要非常仔細(xì)地編碼模型才能實(shí)現(xiàn)所需的性能。功能可能會(huì)受到限制，但如果可行，它通常是成本最低的解決方案。因?yàn)檫@是一個(gè)純軟件解決方案，升級(jí)或錯(cuò)誤修復(fù)更容易解決。
• 升級(jí)/更換現(xiàn)有的處理器——如果你能讓它工作并保留現(xiàn)有的代碼庫(kù)，這可能是一個(gè)很好的解決方案，并且像上面的解決方案一樣，它是純軟件的，可以很容易地修復(fù)或升級(jí)。但是，這通常會(huì)使項(xiàng)目開(kāi)始走上一條需要進(jìn)行大量功率和性能評(píng)估的艱難道路。公司最好添加神經(jīng)網(wǎng)絡(luò) (NN) 或類似的加速器。
• 添加一個(gè)固定的神經(jīng)網(wǎng)絡(luò)加速器——如果與應(yīng)用程序的需求有很好的匹配，這是一個(gè)最佳選擇，因?yàn)樵u(píng)估和設(shè)計(jì)可能不會(huì)太困難。它可以以非常合理的成本很好地提供出色的功率/性能折衷。
• FPGA – 該解決方案靈活且可升級(jí)，但最終產(chǎn)品通常成本高且功率大。這很少是“邊緣”產(chǎn)品的好選擇。
• 專用 SoC——這通常是明確定義用例的大容量、低成本和低功耗產(chǎn)品的最佳選擇。

如何評(píng)估正確的選擇

如果沒(méi)有邊緣 AI 芯片領(lǐng)域訓(xùn)練有素的專業(yè)人員的專業(yè)知識(shí)，可能很難評(píng)估正確的選擇。每個(gè)選項(xiàng)的評(píng)估通常需要很長(zhǎng)時(shí)間并且需要廣泛的知識(shí)。例如，評(píng)估固定加速器與 FPGA 實(shí)現(xiàn)可能需要具有不同技能的工程師。由于有如此多的供應(yīng)商和解決方案提出相互矛盾的主張，對(duì)于大多數(shù)企業(yè)來(lái)說(shuō)，做出基本決策可能會(huì)讓人不知所措。

可以采取的最重要的步驟之一是找到可以幫助評(píng)估技術(shù)權(quán)衡的合適合作伙伴，并將公司從最初的研究和評(píng)估階段帶到解決方案的設(shè)計(jì)和實(shí)施。此外，不要沉迷于尋找具有“最佳”功率/性能的解決方案。如果您能找到可行的解決方案并擁有足夠的軟件和技術(shù)支持，那么這可能是您的最佳選擇。不要被抓到追逐規(guī)格。

構(gòu)建解決方案

一旦選擇了功能和技術(shù)，下一步就是實(shí)施。通常重點(diǎn)是神經(jīng)網(wǎng)絡(luò)模型的實(shí)現(xiàn)，但企業(yè)還必須處理邏輯（軟件/硬件）的實(shí)現(xiàn)，以處理從傳感器到最終輸出的管道，每一步都需要獨(dú)特的算法。

可能出現(xiàn)的問(wèn)題包括：

• 在將數(shù)據(jù)傳遞到 NN 加速器之前，我需要什么樣的信號(hào)調(diào)理/過(guò)濾？
• 我應(yīng)該使用哪種 NN 模型？我的技術(shù)選擇是否有現(xiàn)有模型？哪個(gè)模型的哪個(gè)版本最適合我的應(yīng)用程序？
• 如何訓(xùn)練我的模型？我從哪里獲得我的數(shù)據(jù)以及這些數(shù)據(jù)中存在哪些偏差？我需要多大的數(shù)據(jù)量？
• 訓(xùn)練模型的處理能力的成本和可用性是多少？我們是在云端還是在本地服務(wù)器上訓(xùn)練？
• 什么水平的準(zhǔn)確度是足夠的？假陽(yáng)性還是假陰性更好？
• 需要哪些后期處理，我可以處理該工作量嗎？

最后的忠告

由于有如此多的供應(yīng)商提出相互矛盾的說(shuō)法，因此對(duì)于希望實(shí)施邊緣 AI 的企業(yè)來(lái)說(shuō)，重要的是不要專注于尋找“最佳 TOPS”或“最快”的解決方案，因?yàn)檫@些都是難以捉摸的目標(biāo)。回答許多有關(guān)功能、技術(shù)選擇和實(shí)施的問(wèn)題的最佳方式是與“已經(jīng)在那里，做到了”的個(gè)人或組織合作。具有快速評(píng)估潛在用例、技術(shù)解決方案和供應(yīng)商產(chǎn)品的經(jīng)驗(yàn)的人，可幫助您盡可能快速準(zhǔn)確地縮小選擇范圍。專注于擁有最完整解決方案的供應(yīng)商，既有要實(shí)現(xiàn)的引擎，也有模型、算法，甚至現(xiàn)有數(shù)據(jù)，以幫助您處理獨(dú)特的用例并創(chuàng)建可靠的概念證明。