邊緣AI“金礦”：PC的智能和感知，Lattice sensAI有了新方案

電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）ABI研究數(shù)據(jù)表明，預(yù)計(jì)到2024年設(shè)備端的AI推理功能將覆蓋近60%的設(shè)備。要實(shí)現(xiàn)邊緣AI推理，FPGA具有自身的優(yōu)勢。為此，萊迪思Lattice已經(jīng)發(fā)布了系列面向邊緣計(jì)算的FPGA硬件和設(shè)計(jì)軟件解決方案，針對邊緣智能的萊迪思sensAI也更新到了4.1版本。最近，萊迪思半導(dǎo)體亞太區(qū)資深市場開拓經(jīng)理林國松，就萊迪思最新的AI創(chuàng)新路線以及針對最新一代Lattice sensAI解決方案集合，包括如何輕松部署AI/ML應(yīng)用及性能增強(qiáng)和新增的應(yīng)用場景等進(jìn)行了詳細(xì)分享。

Lattice不斷強(qiáng)化FPGA用于邊緣AI的優(yōu)勢

由于網(wǎng)絡(luò)邊緣端對功耗的敏感度，以及對尺寸大小的嚴(yán)格要求，小封裝和低功耗的FPGA是非常合適的選擇，這也給了以低功耗著稱的萊迪思以拓展邊緣AI應(yīng)用的巨大市場機(jī)會。據(jù)介紹，過去四年，萊迪思的總出貨量達(dá)到10億片以上，以出貨量來看位列全球第一。

林國松表示，Lattice的網(wǎng)絡(luò)邊緣AI可以實(shí)現(xiàn)從一毫瓦到低于一瓦的低功耗范圍，同時(shí)，我們有靈活的計(jì)算資源，F(xiàn)PGA可以做預(yù)處理、后處理、圖像處理、濾波以及性能拓展等等。
此外，LatticeFPGA內(nèi)嵌的安全功能區(qū)域，可以實(shí)現(xiàn)更安全的使用場景。

FPGA的硬件可編程最大的特點(diǎn)還是實(shí)現(xiàn)加速和機(jī)器算法。由于AI的算法靈活多變、推陳出新，專用芯片的成本、功耗是不太可承受的，因此FPGA相對來說更適合來實(shí)現(xiàn)AI的計(jì)算。FPGA可以配合AI技術(shù)隨時(shí)為用戶提供最佳體驗(yàn)。

從2012到2021年，AI分類模型創(chuàng)新的數(shù)量逐年遞增。此次Lattice新推出的sensAI 4.1將增加支持CetusPro-NX器件。該器件具有更高的容量，計(jì)算能力和功效也得到提高。Lattice推出了相應(yīng)的開發(fā)板，即聲音和視覺機(jī)器學(xué)習(xí)板，提供支持這顆芯片的CNN Plus加速器，以及相應(yīng)的sensAI Studio。

在此基礎(chǔ)上，還提供三個(gè)參考設(shè)計(jì)，即人員偵測、注意力追蹤和目標(biāo)分類。同時(shí)，在智能家居、智慧城市、工廠、智能汽車等方面也可提供相對應(yīng)的設(shè)計(jì)服務(wù)。



林國松解析，Lattice的一個(gè)訓(xùn)練設(shè)計(jì)方法是，通過標(biāo)準(zhǔn)的Caffe、TensorFlow、TensorFlowLite、Keras等常用訓(xùn)練網(wǎng)絡(luò)訓(xùn)練完之后，再通過Lattice提供的神經(jīng)網(wǎng)絡(luò)編譯器，編譯成相對應(yīng)的可執(zhí)行指令，這些指令最終會由Lattice的芯片所調(diào)取使用。

在硬件優(yōu)化的設(shè)計(jì)方案中，可以看到，將AI的設(shè)計(jì)方案通過Lattice Radiant和DIAMOND結(jié)合之后，產(chǎn)生FPGA比特流，然后再把訓(xùn)練后的模型錄進(jìn)來，這樣產(chǎn)生一個(gè)類似于中央處理器的功能，而這里產(chǎn)生的量化的權(quán)重和指令更多指向于執(zhí)行的代碼，這兩個(gè)結(jié)合之后，可以產(chǎn)生一個(gè)AI的體驗(yàn)項(xiàng)目。



在軟件優(yōu)化的設(shè)計(jì)方案中，Lattice專門提供了一個(gè)PROPEL軟件，便于大家對于整個(gè)內(nèi)部結(jié)果的控制，能夠進(jìn)行類似于C代碼的控制，而不是使用比較難以上手的FPGA的開發(fā)代碼，這樣的代碼便于初學(xué)者調(diào)用基本的指令進(jìn)行控制。


最新推出的Lattice sensAI Studio，是為了解決訓(xùn)練環(huán)境的應(yīng)用場景應(yīng)用軟件更新快，軟件和軟件之間的兼容性難題。Lattice提供的軟件預(yù)安裝到Container里，然后客戶只需要把這個(gè)Container直接移植到他們的電腦上，就可以在這個(gè)Container上執(zhí)行相對應(yīng)的訓(xùn)練，這樣就幫客戶省去很多的精力和時(shí)間來配置電腦。

Lattice sensAI迎接下一代智能PC

PC是日間工作的最主要工具，下一代PC將聚焦在智能和感知，強(qiáng)大的協(xié)作能力和輕薄外形等方面。

LatticesensAI的智能和感知AI解決方案提供了用戶檢測、注意力追蹤、旁觀者檢測及面部取景功能。通過注意力追蹤可以延長電池壽命；旁觀者檢測可以模糊屏幕、保護(hù)用戶隱私數(shù)據(jù)，而面部取景也是很多協(xié)作式會議所需的場景。



與使用CPU來驅(qū)動AI應(yīng)用的設(shè)備相比，采用sensAI開發(fā)，并在萊迪思FPGA上運(yùn)行的AI計(jì)算設(shè)備的電池使用時(shí)間延長了28%。sensAI還支持現(xiàn)場軟件更新，從而保持AI算法的演進(jìn)，還能讓OEM廠商靈活選擇不同的傳感器和SoC技術(shù)來適配他們的設(shè)備。



與ASIC相比，CrossLink-NX在性能和效率上都更加強(qiáng)勁。



值得一提的是，LatticesensAI符合道德和合理的AI設(shè)計(jì)考量。使用Lattice sensAI可以不把圖像傳給電腦，直接在硬件上處理。在常規(guī)的方式下，人臉信息置于后臺應(yīng)用，用戶圖像信息有被侵害風(fēng)險(xiǎn)。而通過Lattice sensAI只會傳出一個(gè)結(jié)果，而不會傳輸圖像，因此能夠防止用戶的肖像權(quán)受到侵害。

此外，LatticesensAI設(shè)計(jì)使用多個(gè)公共數(shù)據(jù)集驗(yàn)證模型，在系統(tǒng)用戶體驗(yàn)驗(yàn)證，覆蓋典型的使用場景。同時(shí)LatticesensAI專注于用戶體驗(yàn)，針對不同的復(fù)雜場景進(jìn)行壓力測試，包括燈光、場景及用戶面部和頭部穿戴的變化等，從而達(dá)到更佳的體驗(yàn)。

將Lattice的智能和感知解決方案應(yīng)用于新一代的PC，需要OEM、芯片廠商、操作系統(tǒng)、軟件廠商等生態(tài)合作伙伴的通力合作，Lattice也在大力推動這一進(jìn)程。


小結(jié)：

Lattice的超低功耗iCE器件、ECP5器件、Certus和CrossLink-NX器件，包括CetusPro-NX器件，這四類FPGA器件都可以部署sensAI和提供sensAI所需的CNN引擎IP。據(jù)了解，除了PC這個(gè)典型場景外，Lattice也在積極構(gòu)建全新的面向AI場景的汽車解決方案。