0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

基于NVIDIA Jetson的AIR-020 AI推理系統(tǒng)

星星科技指導(dǎo)員 ? 來(lái)源:嵌入式計(jì)算設(shè)計(jì) ? 作者:嵌入式計(jì)算設(shè)計(jì) ? 2022-07-11 10:02 ? 次閱讀

隨著世界對(duì)智能需求的增加,實(shí)時(shí)邊緣計(jì)算不再僅僅指數(shù)據(jù)處理。它越來(lái)越多地暗示著人工智能。

在交通監(jiān)控、缺陷/質(zhì)量檢查、人數(shù)統(tǒng)計(jì)、醫(yī)學(xué)成像或自主移動(dòng)機(jī)器人 (AMR) 等應(yīng)用中,對(duì)邊緣 AI 的需求也意味著對(duì)低延遲、最低功耗和足夠散熱的要求——當(dāng)然,在可能的最高性能水平。

研華AIR-020 系列邊緣 AI 盒子通過(guò)為邊緣計(jì)算用戶提供基于 NVIDIA Jetson 硬件生態(tài)系統(tǒng)的可擴(kuò)展硬件組合來(lái)實(shí)現(xiàn)這一目標(biāo)。借助基于 Jetson Nano、Jetson TX2 NX 和 Jetson Xavier NX 模塊的 SKU,AIR-020 系列可在 5W 熱設(shè)計(jì)功率 (TDP) 下提供 472 GFLOP 的推理性能,一直到 15W 下的 21 TOP 139 x 110 x 44.5 毫米(5.47“ x 4.33” x 1.75“)封裝。

AIR-020 系列 SKU 包括:

AIR-020N – 基于 Jetson Nano,AIR-020N 配備 128 個(gè) CUDA 內(nèi)核 Maxwell GPU 和四核 1.43 GHz Arm Cortex-A57 CPU、4 GB LPDDR4 內(nèi)存和 16 GB eMMC 閃存,用于基準(zhǔn)測(cè)試 512 GFOLP 的浮動(dòng)- 第 16 點(diǎn)表現(xiàn)。

AIR-020T – 基于 Jetson TX2 NX,AIR-020T 包括 256 個(gè) CUDA GPU 內(nèi)核、雙核 Arm Denver 2 和四核 Arm Cortex-A57 內(nèi)核,運(yùn)行頻率為 2 GHz,以及 4 GB LPDDR4 內(nèi)存和 16 GB eMMC閃存基準(zhǔn)為 1.33 TFLOPS

AIR-020X – 基于 Jetson Xavier NX,AIR-020X 利用 384 Volta CUDA GPU 內(nèi)核、48 個(gè) Tensor 內(nèi)核、六核 Arm v8.2 Carmel CPU、8 GB LPDDR4 內(nèi)存和 16 GB eMMC Flash對(duì) 21 TOPS 的整數(shù) 8 分辨率性能進(jìn)行了基準(zhǔn)測(cè)試。

在整個(gè)系列中,用戶可以期待包含一個(gè)或多個(gè)的 I/O 和接口

USB:USB 3.2 Type A/C、MicroUSB

網(wǎng)絡(luò):千兆以太網(wǎng)

顯示:HDMI

串口:RS-232/422/485,CANbus

擴(kuò)展:帶 Nano SIM 插槽的全尺寸 MiniPCIe

這些功能與上述以視覺(jué)為中心的用例相結(jié)合,可實(shí)現(xiàn)高達(dá)每秒 1058 幀 (fps) 的性能速率。

研華 AIR-020 邊緣人工智能系統(tǒng)在行動(dòng)

然而,對(duì)于以 AI 為中心的應(yīng)用程序,可以在隨附的存儲(chǔ)驅(qū)動(dòng)器中添加高達(dá) 128 GB 的外部存儲(chǔ),該存儲(chǔ)驅(qū)動(dòng)器插入板載 M.2 插槽,允許處理器隨意訪問(wèn)更大的 AI 模型和數(shù)據(jù)集。

在軟件方面,這些平臺(tái)運(yùn)行 Ubuntu 18 的長(zhǎng)期支持版本,該版本使用 JetPack SDK 和 Advantech 的 Edge AI Suite 4.5.1 版本進(jìn)行開(kāi)發(fā)。無(wú)代碼、基于 GUI 的 Edge AI 套件包括推理引擎和對(duì) OpenVINO 工具包的支持、預(yù)訓(xùn)練的 AI 模型和部署向?qū)?,?JetPack SDK 包括 CUDA X 加速庫(kù)和深度學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、和多媒體 API。

這些平臺(tái)還配備了安全技術(shù),例如安全啟動(dòng)和可信計(jì)算集團(tuán) (TCG) 可信平臺(tái)模塊安全元素的 2.0 版,以保護(hù)設(shè)備上靜態(tài)或跨物聯(lián)網(wǎng)基礎(chǔ)設(shè)施傳輸?shù)拿舾?a target="_blank">信息

硬件和軟件功能共同促進(jìn)了當(dāng)今智能遠(yuǎn)程計(jì)算應(yīng)用程序可用的一些最先進(jìn)的智能。

運(yùn)行時(shí),AIR-020 系列支持 12-24V 直流電源輸入,可在 -10 至 55°C 的溫度范圍內(nèi)運(yùn)行。它的振動(dòng)額定為 3 Grms @ 5 ~ 500 Hz。

研華 AIR-020 邊緣人工智能系統(tǒng)入門

與研華的 AIR-020 系列邊緣 AI 推理系統(tǒng)一起提供的綜合軟件包還包括用于快速啟動(dòng)的 Linux 板卡支持包 (BSP),因此應(yīng)用程序開(kāi)發(fā)可以立即開(kāi)始。當(dāng)然,它并不止于此,在 Advantech Edge AI Suite 和 JetPack 社區(qū)生態(tài)系統(tǒng)中提供了大量演示、教程、應(yīng)用說(shuō)明等。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29806

    瀏覽量

    268103
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46652

    瀏覽量

    237073
  • 深度學(xué)習(xí)
    +關(guān)注

    關(guān)注

    73

    文章

    5463

    瀏覽量

    120890
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    使用NVIDIA Jetson打造機(jī)器人導(dǎo)盲犬

    Selin Alara Ornek 是一名富有遠(yuǎn)見(jiàn)的高中生。她使用機(jī)器學(xué)習(xí)和 NVIDIA Jetson邊緣 AI 和機(jī)器人平臺(tái),為視障人士打造了機(jī)器人導(dǎo)盲犬。
    的頭像 發(fā)表于 11-09 13:51 ?114次閱讀

    NVIDIA助力麗蟾科技打造AI訓(xùn)練與推理加速解決方案

    麗蟾科技通過(guò) Leaper 資源管理平臺(tái)集成 NVIDIA AI Enterprise,為企業(yè)和科研機(jī)構(gòu)提供了一套高效、靈活的 AI 訓(xùn)練與推理加速解決方案。無(wú)論是在復(fù)雜的
    的頭像 發(fā)表于 10-27 10:03 ?142次閱讀
    <b class='flag-5'>NVIDIA</b>助力麗蟾科技打造<b class='flag-5'>AI</b>訓(xùn)練與<b class='flag-5'>推理</b>加速解決方案

    NVIDIA與思科合作打造企業(yè)級(jí)生成式AI基礎(chǔ)設(shè)施

    NVIDIA 加速計(jì)算平臺(tái)、NVIDIA AI Enterprise 軟件和 NVIDIA NIM 推理微服務(wù)加持的思科 Nexus H
    的頭像 發(fā)表于 10-10 09:35 ?250次閱讀

    NVIDIA攜手Meta推出AI服務(wù),為企業(yè)提供生成式AI服務(wù)

    NVIDIA近日宣布了一項(xiàng)重大舉措,正式推出NVIDIA AI Foundry服務(wù)與NVIDIA NIM(NVIDIA Inference
    的頭像 發(fā)表于 07-25 16:57 ?474次閱讀

    英偉達(dá)推出全新NVIDIA AI Foundry服務(wù)和NVIDIA NIM推理微服務(wù)

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務(wù)和 NVIDIA NIM 推理微服務(wù),與同樣剛推出的 Llama 3.1
    的頭像 發(fā)表于 07-25 09:48 ?643次閱讀

    英偉達(dá)推出AI模型推理服務(wù)NVIDIA NIM

    英偉達(dá)近日宣布推出一項(xiàng)革命性的AI模型推理服務(wù)——NVIDIA NIM。這項(xiàng)服務(wù)將極大地簡(jiǎn)化AI模型部署過(guò)程,為全球的2800萬(wàn)英偉達(dá)開(kāi)發(fā)者提供前所未有的便利。
    的頭像 發(fā)表于 06-04 09:15 ?621次閱讀

    Nvidia Jetson Nano + CYW55573/AWXB327MA-PUR M.2無(wú)法使用操作系統(tǒng)內(nèi)置的網(wǎng)絡(luò)管理器管理Wi-Fi如何解決?

    我們使用的是 Nvidia Jetson Nano + CYW55573/AWXB327MA-PUR M.2 ,請(qǐng)參閱 Nvidia Jetson 與英飛凌 AIROC Wi-Fi 6
    發(fā)表于 05-23 06:47

    利用NVIDIA組件提升GPU推理的吞吐

    本實(shí)踐中,唯品會(huì) AI 平臺(tái)與 NVIDIA 團(tuán)隊(duì)合作,結(jié)合 NVIDIA TensorRT 和 NVIDIA Merlin HierarchicalKV(HKV)將
    的頭像 發(fā)表于 04-20 09:39 ?614次閱讀

    開(kāi)發(fā)者手機(jī) AI - 目標(biāo)識(shí)別 demo

    Network Runtime 神經(jīng)網(wǎng)絡(luò)運(yùn)行時(shí),作為中間橋梁連通上層AI推理框架和底層加速芯片,實(shí)現(xiàn)AI模型的跨芯片推理計(jì)算。提供統(tǒng)一AI
    發(fā)表于 04-11 16:14

    基于OpenCV DNN實(shí)現(xiàn)YOLOv8的模型部署與推理演示

    基于OpenCV DNN實(shí)現(xiàn)YOLOv8推理的好處就是一套代碼就可以部署在Windows10系統(tǒng)、烏班圖系統(tǒng)、Jetson的Jetpack系統(tǒng)
    的頭像 發(fā)表于 03-01 15:52 ?1334次閱讀
    基于OpenCV DNN實(shí)現(xiàn)YOLOv8的模型部署與<b class='flag-5'>推理</b>演示

    使用NVIDIA Triton推理服務(wù)器來(lái)加速AI預(yù)測(cè)

    這家云計(jì)算巨頭的計(jì)算機(jī)視覺(jué)和數(shù)據(jù)科學(xué)服務(wù)使用 NVIDIA Triton 推理服務(wù)器來(lái)加速 AI 預(yù)測(cè)。
    的頭像 發(fā)表于 02-29 14:04 ?532次閱讀

    NVIDIA Jetson為嵌入式計(jì)算領(lǐng)域探索AI可能

    自動(dòng)化業(yè)務(wù)流程、通過(guò)數(shù)據(jù)分析獲得洞察力、與客戶和員工互動(dòng)……如今 AI 正在大幅提高生產(chǎn)力,推動(dòng)競(jìng)爭(zhēng)優(yōu)勢(shì)。NVIDIA Jetson 是適用于自主機(jī)器和其他嵌入式應(yīng)用的先進(jìn)平臺(tái),具有出色的 A
    的頭像 發(fā)表于 01-25 17:03 ?494次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Jetson</b>為嵌入式計(jì)算領(lǐng)域探索<b class='flag-5'>AI</b>可能

    HarmonyOS:使用MindSpore Lite引擎進(jìn)行模型推理

    場(chǎng)景介紹 MindSpore Lite 是一款 AI 引擎,它提供了面向不同硬件設(shè)備 AI 模型推理的功能,目前已經(jīng)在圖像分類、目標(biāo)識(shí)別、人臉識(shí)別、文字識(shí)別等應(yīng)用中廣泛使用。 本文介紹
    發(fā)表于 12-14 11:41

    NVIDIA Jetson 的嵌入式系統(tǒng)AI應(yīng)用

    在這個(gè)平臺(tái)上可以使用多個(gè)不同的芯片 ,案例的主角是AIMobile AIM Edge Ncox,一款基于NVIDIA Jetson Orin NX的小型被動(dòng)冷卻嵌入式系統(tǒng)。該系統(tǒng)具有6
    發(fā)表于 12-11 17:37 ?520次閱讀

    NVIDIA再出手!加速開(kāi)發(fā)邊緣AI應(yīng)用,迎接生成式AI新紀(jì)元

    NVIDIA 近日宣布,對(duì)適用于邊緣 AI 和機(jī)器人的 NVIDIA Jetson 平臺(tái)上的兩個(gè)框架進(jìn)行大規(guī)模擴(kuò)展。NVIDIA Isaac
    的頭像 發(fā)表于 11-23 17:31 ?1026次閱讀
    <b class='flag-5'>NVIDIA</b>再出手!加速開(kāi)發(fā)邊緣<b class='flag-5'>AI</b>應(yīng)用,迎接生成式<b class='flag-5'>AI</b>新紀(jì)元