NVIDIA DeepStream SDK是什么 有哪些特性

快速開發(fā)和部署視覺 AI 應(yīng)用和服務(wù)。DeepStream 提供多平臺、可擴(kuò)展、TLS 加密的安全性，可以部署在本地、邊緣和云端。

全球有數(shù)十億攝像頭和傳感器，它們能夠捕獲大量數(shù)據(jù)，這些數(shù)據(jù)可用于提高處理效率以及改善收益流。無論是在交叉路口緩解車輛擁堵，在醫(yī)院進(jìn)行健康和安全監(jiān)控，還是調(diào)查零售通道以提高客戶滿意度，或是開展體育分析或是在制造廠檢測零件缺陷，每種應(yīng)用場合都需要可靠的實時智能視頻分析（IVA）。

什么是 DeepStream SDK？

NVIDIA 的DeepStreamSDK提供了完整的流分析工具包，可用于基于 AI 的多傳感器處理以及視頻、音頻和圖像理解。DeepStream 面向致力于構(gòu)建 IVA 應(yīng)用和服務(wù)的視覺 AI 開發(fā)者、軟件合作伙伴、初創(chuàng)公司及原始設(shè)備制造商 (OEM)。

DeepStream 也是NVIDIAMetropolis 平臺不可或缺的一部分，該平臺用于構(gòu)建端到端服務(wù)和解決方案。

DeepStream SDK 特性

強大且靈活的 SDK

適用于各行各業(yè)眾多用例的統(tǒng)一 SDK。

低代碼量編程

使用 Graph Composer 簡單直觀的用戶界面，創(chuàng)建功能強大的視覺 AI 應(yīng)用。

實時洞察力

理解邊緣設(shè)備中豐富的多模式傳感器數(shù)據(jù)。

托管 AI 服務(wù)

使用 Kubernetes 在云原生容器中部署 AI 服務(wù)并進(jìn)行編配。

降低總體擁有成本 (TCO)

借助 TAO 工具套件進(jìn)行訓(xùn)練，并使用 DeepStream 提高流密度。

使用 DeepStream，實現(xiàn)更高準(zhǔn)確率和實時性能

DeepStream 為各種基于物體檢測、圖像分類和實例分割的 AI 模型提供出色的吞吐量。為減少開發(fā)工作并提高吞吐量，開發(fā)者可以使用 TAO 工具套件中的高度準(zhǔn)確的預(yù)訓(xùn)練模型，并通過 DeepStream 進(jìn)行部署。

顯示了從數(shù)據(jù)提取、解碼、圖像處理到推理的端到端應(yīng)用性能。這需要多個1080p/30fps 流作為輸入。請注意，在 Jetson Xavier NX 和 Jetson AGX Xavier 的 DLA 上運行可以釋放 GPU 用于其他任務(wù)。

借助 DeepStream SDK，您可以將 AI 應(yīng)用到流媒體視頻中，同時優(yōu)化視頻解碼/編碼、圖像縮放和轉(zhuǎn)換以及邊緣到云的連接，從而實現(xiàn)完整的端到端性能優(yōu)化。

為何要使用 DeepStream SDK？

無縫開發(fā)

開發(fā)者可以使用 DeepStream 為 AI 視頻、音頻和圖像分析構(gòu)建無縫流媒體工作流。DeepStream 可供開發(fā)者使用 C/C++、Python 進(jìn)行開發(fā)，或借助 Graph Composer 進(jìn)行低代碼量圖形編程，從而實現(xiàn)開發(fā)靈活性。DeepStream 附帶各種硬件加速插件和擴(kuò)展。

DeepStream 6.0 的新功能：使用 Graph Composer 進(jìn)行低代碼量編程

借助 Graph Composer，DeepStream 開發(fā)者現(xiàn)在可擁有強大的低代碼圖形編程選項。通過簡單直觀的界面，您可以輕松創(chuàng)建復(fù)雜的處理流程，并使用容器構(gòu)建器進(jìn)行快速部署。

安全管理應(yīng)用和服務(wù)

對于現(xiàn)實世界的 IVA 應(yīng)用/服務(wù)部署而言，遠(yuǎn)程管理和應(yīng)用控制至關(guān)重要。DeepStream SDK 可運行于任何云和邊緣。它可處理物聯(lián)網(wǎng)要求，例如邊緣和云之間的有效雙向信息傳遞、安全性、智能錄制和無線 AI 模型更新。

強大的端到端 AI 解決方案

通過借助 NVIDIA TAO 工具套件構(gòu)建端到端視覺 AI 系統(tǒng)、生產(chǎn)級視覺 AI 模型并使用 DeepStream 在邊緣部署，加快整體開發(fā)速度并實現(xiàn)更出色的實時性能。DeepStream 提供借助 TAO 工具套件訓(xùn)練的多個檢測和分割模型的一站式集成，包括 SSD、MaskRCNN、YOLOv3、RetinaNet 等。

參考應(yīng)用

DeepStream SDK 附帶 30 多個示例應(yīng)用，旨在幫助用戶啟動開發(fā)工作。大多數(shù)示例均提供 C/C++、Python 和 Graph 版本，可在NVIDIA Jetson 和 dGPU 平臺上運行。參考應(yīng)用可有助了解 DeepStream 插件的功能，或作為模板和起點來開發(fā)自定義視覺 AI 應(yīng)用。

審核編輯：湯梓紅