國產邊緣AI芯片落地人工智能領域風向

如今，由于物聯(lián)網的興起造成了數(shù)據沖擊，對重要物聯(lián)網傳感器數(shù)據的處理越來越接近數(shù)據最初所在的位置，便有了對基于邊緣計算的機器學習技術的需求。這兩年，人工智能發(fā)展的主題已經非常明確，就是落地應用。在眾多的AI技術當中，無論是上層的算法應用，還是產品，最終都依賴于底層算力的保障，也就是AI芯片。

從去年起，邊緣AI市場已經進入爆發(fā)期，AIoT終端數(shù)量已經超越智能手機。從AI落地的場景來看，AI芯片的兩大工作負載主要是數(shù)據訓練和推理計算。其中，推理計算市場份額的增速正在趕超數(shù)據訓練市場。

現(xiàn)在一個算法模型能做到僅僅2KB，性能表現(xiàn)卻超過4MB的神經網絡算法。深度學習算法的微型化改變表明以GPT-3為代表的超大型模型并不適用于企業(yè)級市場。

在新的物聯(lián)網框架中，數(shù)據在設備本地就可以得到處理。這需要在底層芯片設計上就考慮好算法模型在不同場景中有限的部署條件，包括算力、功耗和硅片面積的分配。從單位算力的成本效用上看，推理計算更能代表企業(yè)級市場所需要的落地方向。

首先就是邊緣AI的場景呈多元化，不同場景對芯片的功耗和性能要求都有差異。而另一方面，碎片化場景的市場容量具有不確定性，需要在芯片研發(fā)的工程成本和收益之間取得平衡，這是所有芯片廠商都需要面對的考驗。

高質量數(shù)據的獲取同樣是一大難點，即如何從大數(shù)據中篩選可靠的數(shù)據。大數(shù)據不意味著高質量的數(shù)據，在AI芯片上執(zhí)行深度學習任務需要硬件傳感器的持續(xù)優(yōu)化。

另外對于傳統(tǒng)客戶而言，除了智能產品的采購成本外，還有使用成本。芯片的功耗，產品是否易于部署，都影響著AI的落地和推廣。芯片廠商如何根據不同的場景定制不同算力的芯片也是落地環(huán)節(jié)上的痛點。

目前邊緣AI芯片缺乏高可用的開發(fā)平臺，軟件編譯工具設計復雜，用戶的開發(fā)和使用門檻偏高，但這些可預見都會在落地過程中不斷完善和迭代。

旭日系列

面向AIoT，地平線推出了旭日系列邊緣AI芯片。通過IC設計和軟件的共同努力，實現(xiàn)了性能、功耗、靈活性和成本之間的平衡。旭日2邊緣AI芯片采用BPU伯努利1.0 架構，可提供 4TOPS等效算力，對多類目標進行實時檢測和精準識別。旭日2集成了Dual-Cortex A53，能高效支持多種主流AI任務。同時還支持EMCC、SPI Flash。

旭日3則是地平線推出的，主打低功耗和高性能的全新一代AIoT邊緣AI芯片。其集成了地平線最先進的伯努利2.0架構AI引擎( BPU)，可提供5TOPS的等效算力。

新的BPU架構極大提升了對先進CNN網絡架構的支持效果，以及極大降低了AI運算對DDR帶寬的占用率。輔以地平線天工開物AI開發(fā)平臺，極大簡化算法開發(fā)與部署過程，降低AI產品的落地成本。

伯努利2.0 BPU結構下，DDR Utilization 呈5倍提升。先進的ISP處理算法，使得在寬動態(tài)、低照度場景下，也能得到1200 w pixel高質量的圖像。旭日3可同時處理不同分辨率4 ~ 8個Camera Sensor的輸入，并支持多種圖像后處理，同時支持 H.264 / H.265 編解碼，性能達到4K@60fps 。

（旭日3）

勘智K210 /K510

第一代芯片勘智K210專門針對機器視覺任務設計，浮點計算能力可以達到1.28TFLOPS，可以媲美嵌入式領域主流的開發(fā)選擇。同時，它的功耗只有0.3W，典型工作場景的功耗小于1W，單位算力功耗低，是一款非常經濟的選擇。第二代勘智K510根據實際的落地情況和客戶反饋進行升級。這款IP內核重新進行架構設計，實現(xiàn)神經網絡中不同層級對計算資源、存儲和帶寬的需求，并且提升數(shù)據的復用率，降低芯片功耗。

其次，針對數(shù)據獲取的速度和質量，勘智K510配置了全新的視覺模組。與第一代芯片相比，K510在幀率和外設方面都有大幅優(yōu)化。每T算力幀率達到業(yè)內領先水平。此外，K510還支持浮點 BF16 計算，在不適合進行模型量化的場景相比同類產品更具優(yōu)勢。

（Video subsystem示意圖）

從長遠來看，邊緣AI芯片將把企業(yè)的物聯(lián)網應用提升到一個全新的水平。由AI芯片推動的智能設備將有助于擴展現(xiàn)有市場，同時改變制造、建筑、物流、農業(yè)和能源等各行業(yè)的價值分配方式。