AI視覺技術(shù)在智能邊緣加速落地

Intel 前不久提出了物聯(lián)網(wǎng)方向的三大戰(zhàn)略：第一，為物聯(lián)網(wǎng)定制高性能的計(jì)算及加速芯片；第二，促進(jìn)邊緣計(jì)算負(fù)載整合的技術(shù)發(fā)展方向，抓住網(wǎng)絡(luò)及器件邊緣計(jì)算的良好機(jī)遇；第三，專注于計(jì)算機(jī)視覺，以及 AI 計(jì)算應(yīng)用帶來的巨大變化。

Intel 認(rèn)為在物聯(lián)網(wǎng)的發(fā)展過程中，邊緣計(jì)算的最新發(fā)展趨勢(shì)——智能邊緣，能夠加速物聯(lián)網(wǎng)的演進(jìn)。Intel 物聯(lián)網(wǎng)事業(yè)部副總裁、中國(guó)區(qū)總經(jīng)理陳偉表示：“邊緣計(jì)算的落地，尤其是邊緣計(jì)算+AI+行業(yè)的應(yīng)用模式，表明只有用貼近真實(shí)應(yīng)用需求的方式，才能讓邊緣計(jì)算在當(dāng)下數(shù)字社會(huì)生根發(fā)芽?！?/p>

AI 視覺技術(shù)在智能邊緣加速落地

據(jù)麥肯錫預(yù)測(cè)，全球市場(chǎng)深度學(xué)習(xí)收入將呈現(xiàn)飛速增長(zhǎng)，到 2030 年，AI 有望造就 13 萬億美元的經(jīng)濟(jì)活動(dòng)。特別是隨著智慧城市、商超、交通、工業(yè)互聯(lián)網(wǎng)等應(yīng)用場(chǎng)景對(duì)視頻數(shù)據(jù)分析需求的激增，AI 與視覺技術(shù)正在加速智能與邊緣計(jì)算的融合，將為汽車、互聯(lián)網(wǎng)、教育等十余個(gè)行業(yè)的數(shù)智化變革提速賦能，助推貨架分析、文本識(shí)別、熱力圖、車輛檢測(cè)識(shí)別、缺陷檢測(cè)等應(yīng)用場(chǎng)景落地。作為邊緣計(jì)算的發(fā)展趨勢(shì)，智能邊緣將與 AI、5G 關(guān)鍵技術(shù)轉(zhuǎn)折點(diǎn)相互交織，推動(dòng)智能進(jìn)入新的發(fā)展拐點(diǎn)。

而邊緣計(jì)算中不同應(yīng)用場(chǎng)景的需求大不相同，需要使用不同神經(jīng)網(wǎng)絡(luò)模型、要求算力靈活、部署靈活、開發(fā)時(shí)間及成本優(yōu)化等。為了貼近這些訴求加速落地，Intel 推出了最新的 AI 計(jì)算盒參考設(shè)計(jì)，可以說是 Intel 加速“智能邊緣”的又一實(shí)踐，也是在中國(guó)市場(chǎng)的又一重要嘗試。

據(jù) Intel 技術(shù)專家介紹，AI 計(jì)算盒參考設(shè)計(jì)硬件平臺(tái)以 Intel 通用計(jì)算平臺(tái) CPU 為主，可以配備 FPGA 或 Movidius VPU 為架構(gòu)的神經(jīng)網(wǎng)絡(luò)加速芯片以及加速卡，形成方案組合，可以為多樣化企業(yè)級(jí)應(yīng)用提供兼容能力，以及在高并發(fā)計(jì)算量需求下的可擴(kuò)展性；此外還有包括凌動(dòng)、酷睿、至強(qiáng)處理器在內(nèi)的不同選擇，能夠提供豐富的功耗和成本選擇。

軟件方面，由于目前市面上的應(yīng)用場(chǎng)景多以視覺為主，因此軟件工具主要輔以 OpenVINO 工具套件，來幫助客戶處理計(jì)算機(jī)視覺、視頻分析類等應(yīng)用。在底層，AI 計(jì)算盒提供了針對(duì)硬件優(yōu)化的底層庫來提升性能，包括媒體處理 Media SDK、深度學(xué)習(xí)推理工具 OpenVINO 工具套件、算法庫及算子級(jí)優(yōu)化的庫和編程接口。在此之上，AI 計(jì)算盒還可支持如 G-streamer， FFMPEG 等不同的媒體框架，并提供如 IPC 輸入、解碼 /VPP、轉(zhuǎn)碼、RAID 存儲(chǔ)、視頻分析、拼接 / 顯示、特征匹配等基于視頻場(chǎng)景優(yōu)化的管道，更易于使用和集成。此外，在應(yīng)用層，AI 計(jì)算盒還可提供近似實(shí)際應(yīng)用的參考示例，實(shí)現(xiàn)快速原型開發(fā)，縮短上市時(shí)間。

基于 Intel 的 AI 計(jì)算盒參考設(shè)計(jì)能帶來哪些優(yōu)勢(shì)？Intel 技術(shù)專家表示，由于應(yīng)用場(chǎng)景千差萬別，因此大家對(duì)硬件平臺(tái)的成本、功耗、擴(kuò)展性、靈活性都有不同的需求，很難通過單一指標(biāo)來進(jìn)行評(píng)判，Intel 的目標(biāo)是如何能讓最終用戶得到最經(jīng)濟(jì)、實(shí)用并適合的產(chǎn)品。與市場(chǎng)其他同類產(chǎn)品相比，Intel 最大的優(yōu)勢(shì)就是硬件平臺(tái)類型多樣化，這是基于多年來在半導(dǎo)體的生產(chǎn)、制造和設(shè)計(jì)上，投入了巨大的研發(fā)、生產(chǎn)成本，可以滿足多種需求。再輔以完整的軟件棧，可以全方位提供經(jīng)濟(jì)實(shí)用的產(chǎn)品。

利舊項(xiàng)目和新部署項(xiàng)目有何不同需求？

目前基于視覺的 AI 項(xiàng)目落地較多，從實(shí)際應(yīng)用場(chǎng)景來看，一部分是利舊項(xiàng)目，另一部分是新部署項(xiàng)目。這些項(xiàng)目對(duì) AI 計(jì)算盒有哪些不同要求？

Intel 物聯(lián)網(wǎng)銷售市場(chǎng)部中國(guó)區(qū)總監(jiān)謝青山介紹，對(duì)于新項(xiàng)目來說，可以在設(shè)計(jì)之初就將 AI 能力考慮進(jìn)去，相對(duì)比較容易。但是對(duì)于利舊項(xiàng)目中已有的 IT 設(shè)備來說，已經(jīng)投入了巨大的 IT 軟硬件資源，客戶更希望能利用現(xiàn)有設(shè)備來支撐，或是在現(xiàn)有基礎(chǔ)上新增 AI 能力。

Intel 的硬件平臺(tái)以及對(duì)操作系統(tǒng)的支持都是向前兼容的，這意味著用戶現(xiàn)有產(chǎn)品可以兼容未來的 CPU。在 AI 解決方案上，Intel 沿用了這一思路，參考設(shè)計(jì)不僅支持新項(xiàng)目，在舊有項(xiàng)目中，也可以增加一部分資源，達(dá)到支撐新應(yīng)用的目的。而不論是利舊還是新部署，謝青山提到，近兩年來 AI 幾乎成為邊緣計(jì)算產(chǎn)品的必選功能，特別是從今年開始，這樣的需求越來越多。

那么，誰是 AI 計(jì)算盒參考設(shè)計(jì)的目標(biāo)用戶？據(jù)介紹，參考設(shè)計(jì)主要包括三方面：硬件參考平臺(tái)、算法以及解決方案，SV（軟件開發(fā)商）、ODM/OEM（原始設(shè)計(jì)制造商 / 原始設(shè)備制造商）、SI（系統(tǒng)集成商）等都是重要的合作伙伴。

通過算法層面的參考設(shè)計(jì)，軟件開發(fā)商可實(shí)現(xiàn)對(duì)不同應(yīng)用場(chǎng)景軟件及算法的快速定制和場(chǎng)景化，加速整個(gè)產(chǎn)品定義、算法研發(fā)及 AIoT 整體解決方案的落地速度。

硬件平臺(tái)方面，Intel 不僅提供獨(dú)立的 AI BOX，也有類似插卡式或模塊化的產(chǎn)品，當(dāng)用戶現(xiàn)有硬件平臺(tái)算力不夠，就可以將這些 AI 加速硬件集成到現(xiàn)有的硬件平臺(tái)上。據(jù)了解，Intel 與 ODM/OEM、系統(tǒng)集成商，在目標(biāo)檢測(cè)、活體檢測(cè)、缺陷檢測(cè)、視頻結(jié)構(gòu)化等多方面進(jìn)行深度合作，將驅(qū)動(dòng)智慧商超、智慧城市、智慧醫(yī)療、智能檢測(cè)等多領(lǐng)域的落地。

AI 計(jì)算盒——CPU、FPGA、ASIC 平臺(tái)如何抉擇？

目前邊緣端的 AI 方案有很多采用了 ASIC/FPGA 方案，而 Intel 的 AI 計(jì)算盒參考設(shè)計(jì)主要是以不同算力的 CPU 平臺(tái)作主控，在開發(fā)成本、效率等方面，又有哪些優(yōu)勢(shì)？

據(jù) Intel 技術(shù)專家的解讀，客戶首先是根據(jù)最終應(yīng)用場(chǎng)景需求來進(jìn)行選擇的，Intel 有全方位硬件平臺(tái)供應(yīng)商 / 芯片供應(yīng)商的優(yōu)勢(shì)，除了最著名的 CPU，其實(shí) CPU 內(nèi)部還集成了 GPU，同時(shí) Movidius VPU 架構(gòu)也已經(jīng)完全融合到 Intel 的硬件平臺(tái)上，同時(shí)也有 FPGA 和 ASIC 方案。Intel 的 AI 計(jì)算盒參考設(shè)計(jì)，一方面綜合性能能夠滿足用戶所需；另一方面，如果需要在 CPU 之外對(duì) AI 加速計(jì)算輔助的話，可以通過 Movidius VPU 架構(gòu)的芯片做加速。

從軟件應(yīng)用開發(fā)角度看，在邊緣側(cè)實(shí)現(xiàn) AI 加速計(jì)算，從開發(fā)到部署有很多痛點(diǎn)，Intel 希望通過 OpenVINO 工具套件、Media SDK 為主的一系列軟件工具，幫助降低 AI 算法開發(fā)上的難度，縮短開發(fā)周期?？蛻糁恍枰紤]應(yīng)用開發(fā)，至于計(jì)算分布僅僅是 CPU 實(shí)現(xiàn)，還是 CPU+加速芯片完成，這部分工作可以通過 OpenVINO 的輔助開發(fā)來進(jìn)行。

從用戶角度看，每種芯片各有優(yōu)缺點(diǎn)。如果算法和算力需要能夠升級(jí)和擴(kuò)容的話，選擇 CPU、GPU、VPU 會(huì)更容易，因?yàn)槿绻x擇了 FPGA 和 ASIC，可能短期內(nèi)適合，但考慮到升級(jí)和修改算法時(shí)，就會(huì)比較困難。

對(duì)于大部分的物聯(lián)網(wǎng)用戶來說，面臨的應(yīng)用場(chǎng)景千差萬別，在半導(dǎo)體設(shè)計(jì)方面面臨的最大問題就是量小、種類多，很難找到單一的、量特別大的應(yīng)用，這就導(dǎo)致了算法和硬件平臺(tái)的需求都不一樣，比較適合選擇 Intel 的 AI 計(jì)算盒參考設(shè)計(jì)。相比之下，如果選擇了 ASIC 方案，前期投入和后續(xù)升級(jí)都會(huì)面臨較大的問題。

也正是這種碎片化的特性，Intel 非常重視生態(tài)建設(shè)，希望持續(xù)推進(jìn)其物聯(lián)網(wǎng)合作伙伴計(jì)劃，與更多的行業(yè)伙伴合作，推出從原型到生產(chǎn)加速智能邊緣的解決方案。在推出 AI 計(jì)算盒參考設(shè)計(jì)的同時(shí)，Intel 攜手小鈷科技、科沃斯、云圖睿視等十余家合作伙伴共同打造了“英特爾 AI 生態(tài)合作伙伴算法方案集萃”，將主要面向智慧城市、智慧零售、智慧教育、工業(yè)互聯(lián)網(wǎng)等多元化場(chǎng)景加速落地。
? ? ? ?責(zé)任編輯：tzh