0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

借助自適應模塊化系統(tǒng)(SOM)加速邊緣創(chuàng)新

李鑫 ? 來源:hzp_bbs ? 作者:hzp_bbs ? 2022-08-03 17:01 ? 次閱讀

AI 提供支持的應用,正在日益普遍地被部署到邊緣和終端,高性能 AI 推斷正在推動更智慧的城市和高度自動化的智能工廠步入現(xiàn)實。隨著智能零售引入了極為精致的自動化購物體驗,零售體驗也變得更加精巧細膩。這些應用需要具備極高可靠性并提供高性能,同時也需要提供高效緊湊的外形尺寸。

邊緣處理難題

在邊緣部署系統(tǒng)時,功耗、占板面積和成本都是制約因素。在邊緣處理的種種限制條件下,處理需求的不斷提高,意味著提供所需的性能水平將面臨更大的挑戰(zhàn)。雖然 CPU 在邊緣計算上也有發(fā)展,但近年來的增長速度有所放緩。在為新一代AI 支持的邊緣應用交付所需性能時,未加速的 CPU 表現(xiàn)得相當勉強,特別是考慮到嚴格的時延要求。

當在邊緣上實現(xiàn)前沿 AI 應用時,領(lǐng)域?qū)S眉軜?gòu) (DSA) 是關(guān)鍵。此外,DSA 還提供確定性和低時延。

合適的 DSA 專門設計用于高效處理所需數(shù)據(jù),既有 AI 推斷,也有非 AI 部分的應用,也就是整體應用的加速??紤]到 AI 推斷需要非 AI 的預處理和后處理,這些都需要更高的性能,這一點很重要。從根本上說,要在邊緣上(和其他地方)實現(xiàn)由 AI 提供支持的高效應用,需要整體應用的加速。

如同任何固定功能的芯片解決方案一樣,為 AI 邊緣應用開發(fā)的應用專用標準產(chǎn)品 (ASSP) 仍有自己的局限性。主要挑戰(zhàn)在于 AI 創(chuàng)新的速度異乎尋常。與非 AI 技術(shù)相比,AI模型的過時速度會快得多。使用固定功能的芯片器件實現(xiàn) AI,會因更新型、更高效AI 模型的出現(xiàn)而迅速過時。固定功能芯片器件的流片需要花費數(shù)年時間,到那時 AI 模型的前沿技術(shù)將已經(jīng)向前發(fā)展。此外,對于邊緣應用,安全和功能安全要求的重要性也在提高,可能經(jīng)常需要成本高昂的現(xiàn)場更新。

自適應計算的前景

自適應計算包含能夠針對具體應用進行優(yōu)化的硬件,例如現(xiàn)場可編程門陣列 (FPGA),它是一個功能強大的解決方案,專門用于基于AI 的邊緣應用。

此外,新的自適應硬件也層出不窮,包括含有 FPGA 架構(gòu)并與一個或多個嵌入式 CPU 子系統(tǒng)耦合的自適應片上系統(tǒng) (SoC)。然而自適應計算遠不止“純硬件”。它整合了一套綜合而全面的設計軟件和運行時軟件。將它們結(jié)合起來,就形成了一種獨特的自適應平臺,可在其上構(gòu)建非常靈活高效的系統(tǒng)。

用自適應計算實現(xiàn) DSA,可避免使用 ASIC 等定制芯片器件所需的設計時間和前期成本。這樣就能為任何特定領(lǐng)域應用,包括基于 AI的邊緣應用,迅速部署經(jīng)過優(yōu)化的靈活的解決方案。自適應SoC 是此類領(lǐng)域?qū)S锰幚淼睦硐脒x擇,因為它們既擁有綜合全面的嵌入式CPU 子系統(tǒng)的靈活性,又具備自適應硬件的優(yōu)異的數(shù)據(jù)處理能力。

推出自適應模塊化系統(tǒng) — SOM

模塊化系統(tǒng) (SOM) 提供完整的、可量產(chǎn)的計算平臺。與從芯片級從頭開發(fā) (chip-down development)相比,這種方法能節(jié)省可觀的開發(fā)時間與成本。SOM 能夠插入到較大的邊緣應用系統(tǒng)內(nèi),從而既可以提供定制實現(xiàn)方案的靈活性,又可以提供現(xiàn)成解決方案的易用性和更快的上市速度。這些優(yōu)勢讓 SOM 成為邊緣 AI 應用的理想平臺。然而,要實現(xiàn)現(xiàn)代化AI 應用所需的性能,加速必不可少。

某些應用需要定制硬件組件與自適應 SoC 接口連接,意味著需要從芯片級從頭設計 (Chip-down design)。然而,越來越多基于 AI 的邊緣應用,需要相似的硬件組件和接口,甚至在終端應用迥異的時候也是如此。隨著企業(yè)轉(zhuǎn)向標準化接口和通信協(xié)議,盡管處理需求顯著不同,但同一套組件可適用于各種類型的應用。

面向基于 AI 的邊緣應用的自適應 SOM, 結(jié)合了自適應 SoC與行業(yè)標準接口和組件,使得硬件經(jīng)驗有限甚至沒有硬件經(jīng)驗的開發(fā)者也可以獲益于自適應計算技術(shù)。自適應SoC 既能實現(xiàn) AI 處理,也能實現(xiàn)非 AI 處理,也就是說其可以滿足整體應用的處理需求。

此外,自適應 SOM 上的自適應 SoC 支持高度的定制化。它的設計目的,是集成到更大型的系統(tǒng)內(nèi)并使用預定義的外形尺寸。使用自適應 SOM,可以全面發(fā)揮自適應計算的優(yōu)勢,同時避免了從芯片級從頭開始的芯片設計。自適應 SOM 只是解決方案的一個部分。軟件也是關(guān)鍵。

采用自適應 SOM 的企業(yè),能廣泛受益于性能、靈活性和快速開發(fā)時間的獨特組合。無需構(gòu)建自己的電路板,他們就能夠享受自適應計算提供的各種優(yōu)勢 — 這個優(yōu)勢,最近才隨著賽靈思Kria?自適應 SOM 產(chǎn)品組合的推出在邊緣得以實現(xiàn)。

Kria K26 SOM 構(gòu)建在 Zynq? UltraScale+? MPSoC 架構(gòu)頂端,搭載四核 Arm? Cortex?-A53 處理器,超過25萬個邏輯單元和一個 H.264/265 視頻編解碼器。此外,該 SOM 還搭載4GB的DDR4存儲器、69 個 3.3V I/O 和 116 個 1.8V I/O,使之能夠適配幾乎任何處理器或接口。憑借1.4TOPS的AI算力,與基于 GPU 的 SOM 相比,Kria K26 SOM 助力開發(fā)者開發(fā)出時延和功耗更低,性能高 3 倍的視覺 AI 應用。這對安保、交通與市政攝像頭、零售分析、機器視覺和視覺引導機器人等智能視覺應用,可謂是重大福音。通過標準化系統(tǒng)核心部分,開發(fā)者擁有更多時間專心開發(fā)自己的專屬特性,從而在市場競爭中實現(xiàn)技術(shù)差異化。

與軟件可以更新但受到固定加速器限制的其他邊緣 AI 產(chǎn)品不同,Kria SOM 在兩個方面提供靈活性,即軟件和硬件都能在今后更新。用戶能夠適配 I/O 接口、視覺處理和 AI 加速器,為以下的部分或全部應用提供支持:MIPI、LVDS 和SLVS-EC 接口;適用于日間或夜間的高質(zhì)量專用高動態(tài)范圍成像算法;8 位深度學習處理單元;或未來的 4 位甚至是 2 位深度神經(jīng)網(wǎng)絡方法。多模傳感器融合與實時 AI 處理的結(jié)合,如今已經(jīng)非常容易實現(xiàn),可以從賽靈思 KV260 視覺 AI 入門套件開始設計,通過 Kria K26 SOM 部署到生產(chǎn)中。

面向軟硬件開發(fā)者提供的優(yōu)勢

自適應 SOM 同時讓硬件開發(fā)者和軟件開發(fā)者受益。對于硬件開發(fā)者,自適應 SOM 提供了現(xiàn)成的、可量產(chǎn)的解決方案,從而節(jié)省了大量的開發(fā)成本與開發(fā)時間。此外,這些器件也允許硬件團隊在流程后期變更設計,而基于固定功能芯片技術(shù)的 SOM 則無法實現(xiàn)。

對于 AI 開發(fā)者和軟件開發(fā)者來說,自適應計算比過去更容易應用。賽靈思為確保自適應計算的易用性,對工具流進行了大量投資。通過將軟硬件平臺與可量產(chǎn)的視覺加速應用相結(jié)合,Kria SOM 產(chǎn)品組合的推出將這種易用性提升到全新水平。這些交鑰匙應用取消了所有 FPGA 硬件設計工作,只需要軟件開發(fā)者集成他們的定制 AI 模型、應用代碼并有選擇地修改視覺流水線。在 Vitis? 統(tǒng)一軟件開發(fā)平臺和庫支持下,他們可以使用熟悉的設計環(huán)境,如 TensorFlow、Pytorch 或 Caffe 框架以及 C、C++、OpenCL? 和 Python 編程語言。

通過這種面向軟件設計的新的加速應用范式,賽靈思還面向邊緣應用推出了首個嵌入式應用商店,為客戶提供來自賽靈思及其生態(tài)系統(tǒng)合作伙伴的豐富多樣的 Kria SOM 應用選擇。賽靈思解決方案屬于免費提供的開源加速應用,包含智能攝像頭、人臉檢測、帶有智能視覺輔助的自然語言處理等多種應用。

靈活應變的未來

AI 模型將繼續(xù)以高速步伐向前演進發(fā)展。這意味著加速平臺必須能夠靈活應變,才能在現(xiàn)在和未來以最佳方式實現(xiàn) AI 技術(shù)。實際上,SOM 提供了理想的邊緣處理平臺。與自適應 SoC 相結(jié)合,SOM 為由 AI 提供支持的應用,提供了綜合全面、可量產(chǎn)的平臺。采用這類器件的企業(yè)能廣泛受益于性能、靈活性和快速開發(fā)時間的獨特組合,并從自適應計算種收獲豐厚的回報。

審核編輯:彭靜
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FPGA
    +關(guān)注

    關(guān)注

    1625

    文章

    21636

    瀏覽量

    601315
  • 硬件
    +關(guān)注

    關(guān)注

    11

    文章

    3224

    瀏覽量

    66070
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29858

    瀏覽量

    268152
  • 邊緣計算
    +關(guān)注

    關(guān)注

    22

    文章

    3049

    瀏覽量

    48500
收藏 人收藏

    評論

    相關(guān)推薦

    銘普推出創(chuàng)新模塊化儲能系統(tǒng)

    銘普公司在通信網(wǎng)絡能源領(lǐng)域深耕多年,近日成功推出了一款創(chuàng)新模塊化儲能系統(tǒng),為5G基站節(jié)費提供了有力支持。
    的頭像 發(fā)表于 10-30 17:27 ?328次閱讀

    即插即用DAQ設備與模塊化DAQ系統(tǒng)的概念解析

    思林杰根據(jù)市場需求推出了適應現(xiàn)代市場的模塊化DAQ系統(tǒng)—sDAQ,也具有上述即插即用的優(yōu)點。 sDAQ是基于FPGA架構(gòu)的高效可定制的數(shù)據(jù)采集系統(tǒng)
    的頭像 發(fā)表于 10-22 17:37 ?360次閱讀
    即插即用DAQ設備與<b class='flag-5'>模塊化</b>DAQ<b class='flag-5'>系統(tǒng)</b>的概念解析

    模塊化插座接線方法有哪些

    模塊化插座,也稱為模塊化電源插座或模塊化PDU(Power Distribution Unit),是一種可以根據(jù)需要靈活配置電源插座和接口的設備。這種設計允許用戶根據(jù)具體的用電需求,選擇不同的
    的頭像 發(fā)表于 10-18 09:50 ?245次閱讀

    耐世特推出模塊化小齒輪式電動助力轉(zhuǎn)向系統(tǒng)

    耐世特汽車系統(tǒng)近日在電動助力轉(zhuǎn)向技術(shù)領(lǐng)域邁出了重要一步,正式推出了模塊化小齒輪式電動助力轉(zhuǎn)向系統(tǒng)(mPEPS),這一創(chuàng)新產(chǎn)品不僅豐富了其高效經(jīng)濟的EPS產(chǎn)品線,更標志著耐世特在
    的頭像 發(fā)表于 08-15 18:20 ?786次閱讀

    凌華科技推出兩款基于最新Intel? Atom處理器的模塊化電腦

    凌華科技發(fā)布基于 Intel? Amston-Lake 處理器的模塊化電腦,最多支持 8核和 12W TDP,適合加固級邊緣解決方案。
    的頭像 發(fā)表于 04-09 11:27 ?716次閱讀

    SOM-7567BS0CB-S3A1 Advantech品牌 模塊化系統(tǒng) - SOM ATOM E3825 2C 1.33GHz, 2G RAM

    制造商:Advantech 產(chǎn)品種類:模塊化系統(tǒng) - SOM RoHS: 環(huán)保 系列:SOM-7567 外觀尺寸:COM Express Mini Module 處理器品牌:Inte
    發(fā)表于 03-29 17:59

    模塊化機房:數(shù)據(jù)中心的未來

    隨著數(shù)字轉(zhuǎn)型加速,數(shù)據(jù)中心已成為企業(yè)運營的核心。傳統(tǒng)的數(shù)據(jù)中心面臨空間利用不足、能源效率低下、擴展性差和維護成本高等問題。模塊化機房應運而生,它不僅克服了傳統(tǒng)設計的局限,還為數(shù)據(jù)中心的建設和運營帶來了革命性的改變。本文將探討
    的頭像 發(fā)表于 03-12 17:26 ?830次閱讀

    什么是模塊化機房?

    在這個數(shù)據(jù)驅(qū)動的時代,數(shù)據(jù)中心的作用變得日益重要。而模塊化機房,作為一種創(chuàng)新的數(shù)據(jù)中心解決方案,正在逐漸改變我們構(gòu)建和管理這些關(guān)鍵設施的方式。但究竟什么是模塊化機房呢?它又為何受到越來越多行業(yè)的青睞?在本文中,我們將一探究竟。
    的頭像 發(fā)表于 03-12 15:05 ?1344次閱讀

    什么是自適應光學?自適應光學原理與方法的發(fā)展

    目前,世界上大型的望遠鏡系統(tǒng)都采用了自適應光學技術(shù),自適應光學的出現(xiàn)為補償動態(tài)波前擾動,提高光波質(zhì)量提供了新的研究方向。 60多年來,自適應光學技術(shù)獲得蓬勃發(fā)展,現(xiàn)已應用于天文學
    發(fā)表于 03-11 10:27 ?1768次閱讀

    【ALINX 技術(shù)分享】AMD Versal AI Edge 自適應計算加速平臺之 Versal 介紹(2)

    【ALINX 技術(shù)分享】AMD Versal AI Edge 自適應計算加速平臺之 Versal 介紹,以及Versal 芯片開發(fā)流程的簡介。
    的頭像 發(fā)表于 03-07 16:03 ?951次閱讀
    【ALINX 技術(shù)分享】AMD Versal AI Edge <b class='flag-5'>自適應</b>計算<b class='flag-5'>加速</b>平臺之 Versal 介紹(2)

    英特爾邊緣平臺亮相MWC 2024,模塊化設計引領(lǐng)行業(yè)創(chuàng)新

    這款邊緣原生軟件平臺簡化了邊緣AI應用軟件的開發(fā)、部署和管理 最新消息:在2024年世界移動通信大會上,英特爾發(fā)布了全新的邊緣平臺,這一模塊化、開放式的軟件平臺,讓企業(yè)能夠像在云端一樣
    的頭像 發(fā)表于 02-28 10:51 ?453次閱讀

    模塊化UPS是什么?模塊化UPS電源并機的優(yōu)點

    模塊數(shù)量。通過并機技術(shù),多個模塊可以一起運行,提供高可靠性和高可擴展性的電源系統(tǒng)。下面將詳細介紹模塊化UPS電源并機的優(yōu)點。 1. 高可靠性:模塊化
    的頭像 發(fā)表于 01-10 15:16 ?1232次閱讀

    什么是模塊化鋰電UPS?模塊化UPS支持鋰電池嗎?

    什么是模塊化鋰電UPS?模塊化UPS支持鋰電池嗎? 模塊化鋰電UPS是一種基于鋰電池技術(shù)的不間斷電源系統(tǒng)(UPS),它的主要特點是可以根據(jù)需求進行
    的頭像 發(fā)表于 01-09 15:51 ?805次閱讀

    LabVIEW開發(fā)自適應降噪ANC

    數(shù)據(jù),因為這兩款設備都具有PCI和PXI接口。 可以使用LabVIEW自適應濾波工具包、LabVIEW FPGA模塊和NI Compact RIO平臺來實現(xiàn)實時ANC系統(tǒng)。 LabVIEWFPGA
    發(fā)表于 11-30 19:38

    太陽能應用的模塊化電池系統(tǒng)

    電子發(fā)燒友網(wǎng)站提供《太陽能應用的模塊化電池系統(tǒng).pdf》資料免費下載
    發(fā)表于 11-16 15:31 ?0次下載
    太陽能應用的<b class='flag-5'>模塊化</b>電池<b class='flag-5'>系統(tǒng)</b>