Edge AI/模型服務 · SDK

DeepStream SDK

NVIDIA

在支援的硬體上建立加速影片分析流程。

官方文件下載開發規格

現行開發文件將傳統 Python 範例/綁定標為棄用;新 Python 整合應評估 Service Maker 並固定版本。

NVIDIA DEEPSTREAM / DEVELOPER FIELD GUIDE

選對接口,定義可驗證的結果。

公司/專案背景、十個技術入口,以及每份引用的實作分析。

2026-10-08 · 串接尚未實測

公司/專案背景全貌

依官方公司或專案自述撰寫的原創概要;完整原文請見來源。

NVIDIA DeepStream · About
公司NVIDIA 開發加速運算硬體、系統與軟體,涵蓋 AI 等工作負載。
產品角色DeepStream 是 NVIDIA Metropolis 生態系中的 GStreamer 串流分析工具。
部署適用支援影像與感測處理管線;部署需相容平台及模型套件。
官方 About 完整原文 ↗
About 引用 — TA 分析
適用角色進行 AI 供應商初選的採購、合作夥伴與產品負責人。
本站評估用定位與公司背景判斷初步適配度;另行取得專案部署、支援與商務條件。

已核對官方來源;未執行真實 API、推論或效能測試。預期結果為建議內部契約。

十項技術入口比較

依開發任務選出的十個有文件技術入口;不是十套獨立 SDK 或官方排名。

依要完成的工作選擇
接口用途與 TA
01 · DeepStream quickstartAPI / SDK / developer guide啟動已設定的參考管線。影像管線工程師
02 · Gst-nvinferAPI / SDK / developer guide在媒體管線加入 TensorRT 推論。推論工程師
03 · Gst-nvinferserverAPI / SDK / developer guide整合 Triton 推論。推論服務整合團隊
04 · Gst-nvtrackerAPI / SDK / developer guide關聯跨影格偵測。追蹤團隊
05 · Gst-nvstreammuxAPI / SDK / developer guide將輸入串流組成批次供後續處理。多串流整合者
06 · Gst-nvmsgconvAPI / SDK / developer guide將中繼資料轉換成訊息內容。事件格式工程師
07 · Gst-nvmsgbrokerAPI / SDK / developer guide透過設定的協定介面傳送訊息。物聯網後端團隊
08 · Gst-nvdsanalyticsAPI / SDK / developer guide套用設定的空間與移動規則。營運分析團隊
09 · Service Maker PythonAPI / SDK / developer guide透過 Service Maker API 建立管線。Python 應用團隊
10 · REST API serverAPI / SDK / developer guide變更支援的執行期管線參數。控制介面工程師

逐份文件分析

能力摘要依據官方文件;限制與建議測試為本站工程評估。

01

API / SDK / developer guide

DeepStream quickstart

DeepStream quickstart · TA
目標讀者 TA影像管線工程師
官方文件能力啟動已設定的參考管線。
輸入 → 輸出影像來源與設定 → 顯示或處理影格。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估範例吞吐量不是自有模型或串流數量的保證。
本站建議驗證用短樣本確認來源識別、影格數及正常結束。
官方文件 · DeepStream quickstart ↗
02

API / SDK / developer guide

Gst-nvinfer

Gst-nvinfer · TA
目標讀者 TA推論工程師
官方文件能力在媒體管線加入 TensorRT 推論。
輸入 → 輸出批次影格與模型 → 推論中繼資料。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估模型解析與前處理須符合訓練模型。
本站建議驗證與已知模型樣本比對偵測及座標。
官方文件 · Gst-nvinfer ↗
03

API / SDK / developer guide

Gst-nvinferserver

Gst-nvinferserver · TA
目標讀者 TA推論服務整合團隊
官方文件能力整合 Triton 推論。
輸入 → 輸出管線張量及伺服器設定 → 模型輸出。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估伺服器模型版本與輸入輸出名稱須一致。
本站建議驗證明確驗證伺服器不可用與張量不相容情況。
官方文件 · Gst-nvinferserver ↗
04

API / SDK / developer guide

Gst-nvtracker

Gst-nvtracker · TA
目標讀者 TA追蹤團隊
官方文件能力關聯跨影格偵測。
輸入 → 輸出影格及偵測 → 軌跡識別與追蹤資訊。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估軌跡 ID 不是經查證的真實身分。
本站建議驗證以標註片段評估 ID 切換及遮擋恢復。
官方文件 · Gst-nvtracker ↗
05

API / SDK / developer guide

Gst-nvstreammux

Gst-nvstreammux · TA
目標讀者 TA多串流整合者
官方文件能力將輸入串流組成批次供後續處理。
輸入 → 輸出多個輸入緩衝 → 批次緩衝及來源資訊。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估舊版及新版 streammux 設定不同;須選定版本。
本站建議驗證單一串流停滯時確認影格與來源映射。
官方文件 · Gst-nvstreammux ↗
06

API / SDK / developer guide

Gst-nvmsgconv

Gst-nvmsgconv · TA
目標讀者 TA事件格式工程師
官方文件能力將中繼資料轉換成訊息內容。
輸入 → 輸出影格/物件中繼資料 → 選定訊息格式。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估本站 JSON 範例是內部契約,不是原生格式。
本站建議驗證驗證必要欄位、時間戳與空物件訊息。
官方文件 · Gst-nvmsgconv ↗
07

API / SDK / developer guide

Gst-nvmsgbroker

Gst-nvmsgbroker · TA
目標讀者 TA物聯網後端團隊
官方文件能力透過設定的協定介面傳送訊息。
輸入 → 輸出訊息及連線設定 → 傳送操作。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估管線事件本身不代表下游已持久儲存。
本站建議驗證依選定介面測試斷線及接收端確認。
官方文件 · Gst-nvmsgbroker ↗
08

API / SDK / developer guide

Gst-nvdsanalytics

Gst-nvdsanalytics · TA
目標讀者 TA營運分析團隊
官方文件能力套用設定的空間與移動規則。
輸入 → 輸出物件資訊及規則 → 分析資訊。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估規則幾何與追蹤品質影響事件解讀。
本站建議驗證回放跨界與未跨界片段,比對預期計數。
官方文件 · Gst-nvdsanalytics ↗
09

API / SDK / developer guide

Service Maker Python

Service Maker Python · TA
目標讀者 TAPython 應用團隊
官方文件能力透過 Service Maker API 建立管線。
輸入 → 輸出Python 管線定義 → 串流應用。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估現行文件已將傳統 Python 範例/綁定標為棄用。
本站建議驗證移植舊程式前固定版本並使用對應遷移指南。
官方文件 · Service Maker Python ↗
10

API / SDK / developer guide

REST API server

REST API server · TA
目標讀者 TA控制介面工程師
官方文件能力變更支援的執行期管線參數。
輸入 → 輸出支援的控制請求 → 設定結果。
執行環境固定 DeepStream 版本及支援的 NVIDIA GPU 平台
本站選型評估控制成功與影格推論成功不同。
本站建議驗證檢查拒絕參數並觀察實際管線狀態。
官方文件 · REST API server ↗

Developer guide

Developer guide · 補充引用分析
TA整合負責人
本站驗證建議選定相符版本、安裝及遷移指南;檢視棄用綁定。
官方文件 · Developer guide ↗

04 / INPUT · EXPECTED OUTPUT · ACCEPTANCE

實作前先看懂預期結果

建議逐影格分析封裝;未使用攝影機、GPU 推論或訊息連線。座標為指定影格內的示意像素,不是供應商原生 JSON。

示意契約 · 未呼叫 API 或執行模型 · 不是供應商實測輸出

影格已處理

預期行為 — 示意,尚未執行
輸入可解碼授權片段及固定偵測器與追蹤器。
預期結果ok,含來源/影格 ID 與物件資訊。
驗收條件方框位於宣告影格範圍內,ID 保持來源範圍。

有效空影格

預期行為 — 示意,尚未執行
輸入已處理且無合格偵測的影格。
預期結果ok 且 objects: [];仍保留影格 ID。
驗收條件不要混淆無物件與無影格到達。

來源斷線

預期行為 — 示意,尚未執行
輸入RTSP 來源不可用。
預期結果明確 degraded/error 狀態及最後影格時間,不產生假新空結果。
驗收條件標示過期資料並採有限重連策略。

模型/環境不相符

預期行為 — 示意,尚未執行
輸入模型引擎無法在選定環境載入。
預期結果error,不捏造偵測輸出。
驗收條件提供有限診斷並記錄精確模型/環境版本。

將預期結果對應至你的應用

整合後將實際 SDK 或服務回應對應至此建議內部契約。下列識別碼與數值均為示意;不含憑證或真實請求。

預期輸出 JSON — 示意,非實測 · DeepStream-expected-results.json
{
  "schema_version": "1.0.0",
  "example": true,
  "provider": "NVIDIA DeepStream",
  "status": "ok",
  "input_id": "sample-001",
  "data": {
    "stream_id": "example-camera",
    "frame_id": 42,
    "frame_size": [
      640,
      480
    ],
    "objects": [
      {
        "track_id": "example-7",
        "label": "part",
        "bbox_xyxy": [
          10,
          20,
          80,
          90
        ]
      }
    ],
    "latency_ms": null
  },
  "error": null,
  "verification": "illustrative-only;not-provider-response"
}
下載規格、範例與驗收計畫
工程交接 — 本站建議契約與驗收門檻
結果解讀傳輸或執行成功不代表模型準確。有效空結果須與操作失敗分開。
可重現性記錄模型、環境、設定與輸入識別;代表性測試前約定品質及延遲條件。不宣稱已實測效能。
操作範圍建議逐影格分析封裝;未使用攝影機、GPU 推論或訊息連線。座標為指定影格內的示意像素,不是供應商原生 JSON。

開發評估

多相機巡檢影像流程

開發構想規格・串接尚未實測

接口能力依據官方文件或程式庫;以下產品方向、輸入、交付與驗收條件則是我們的開發評估。

需整合驗證

估算可交付產品前,需共同驗證執行環境、資料結構或硬體。

原型輸入規劃
一個鎖定版本的模型、代表性輸入、目標環境與工作量。
原型交付規劃
附模型版本、延遲與資源量測的預測或部署證據。
驗收條件
用已知樣本驗證輸出,並在選定環境量測延遲、記憶體與失敗呼叫。
依賴條件
模型使用權、支援的算子、記憶體預算與硬體或服務環境。

串接前置條件

現行開發文件將傳統 Python 範例/綁定標為棄用;新 Python 整合應評估 Service Maker 並固定版本。

開發順序

  1. 確認 DeepStream SDK 的存取、授權與支援版本。
  2. 準備上述樣本,針對「多相機巡檢影像流程」先實作一個有官方文件的操作。
  3. 整理輸出時保留來源、時間與錯誤狀態,並保留供應商回應供審核。
  4. 通過驗收條件後,再估算擴展投入與客戶交付。

如何驗證需求

記錄產品瀏覽、官方文件點擊、規格下載與技術 Hub 點擊。這些是事件次數,不等於獨立人數或已完成串接。

本次可行性評估依實作條件判斷;尚未給定流量排名或交期承諾。

相關產品