NvDsInferenceExt#

NVIDIA DeepStreamSDK 流式推理组件。

  • UUID: 0b02963e-c24e-4c13-ace0-c4cdf36c7c71

  • 版本: 1.6.0

  • 作者: NVIDIA

  • 许可: 专有

组件#

nvidia::deepstream::NvDsModelUpdatedSignal#

报告动态模型更新状态。这是一个连接器组件。此组件必须链接到发出信号的 ‘NvDsInferVideo’ 和另一个将处理信号回调的组件。

  • 组件 ID: 5b154229-a6ce-342c-8ca6-8f045316a912

  • 基本类型: nvidia::deepstream::INvDsSignal

  • 定义于: nvdsinference/nvdsinference_interfaces.hpp

nvidia::deepstream::NvDsInferVideoPropertyController#

用于控制 nvidia::deepstream::NvDsInferVideo 属性的辅助组件。这是一个连接器组件。它必须链接到两个组件:NvDsInferVideo 组件以控制属性,以及另一个将通过辅助组件 API 设置/获取属性的组件。

  • 组件 ID: 6b5f8068-fb7d-301f-ad5a-55fbf81d1b6f

  • 基本类型: nvidia::deepstream::INvDsPropertyController

  • 定义于: nvdsinference/nvdsinference_interfaces.hpp

nvidia::deepstream::NvDsInferVideo#

DeepStreamSDK TensorRT Bin。内部 Pipeline: queue->nvvidconv->nvinfer

  • 组件 ID: 18e494e2-4c0e-3589-97be-06ece23a7692

  • 基本类型: nvidia::deepstream::INvDsElement

参数#

batch-size

推理的最大批次大小。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 1


config-file-path

nvinfer 实例的配置文件路径。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_FILE


filter-out-class-ids

忽略指定类别 ID 的对象的元数据。使用字符串和 ClassID (int) 中的类别 ID 值来设置属性。例如:0;2;3。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_STRING


gpu-id

设置 GPU 设备 ID。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 0


infer-model-config

指向 INvDsInferModelConfigComponent 组件的句柄。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::INvDsInferModelConfigComponent


infer-on-class-ids

对具有指定类别 ID 的对象进行操作。使用字符串和 ClassID (int) 中的类别 ID 值来设置属性。例如:0:2:3。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_STRING


infer-on-gie-id

对具有此唯一 ID 的 GIE 生成的元数据进行推理。设置为 -1 以对所有元数据进行推理。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_INT64

  • 默认值: -1


input-tensor-meta

使用附加为元数据的预处理输入张量,而不是在插件内部进行预处理

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL


interval

指定要跳过推理的连续批次数量。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 0


model-engine-file

模型预生成的序列化引擎文件的绝对路径。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_FILE


model-updated-signal

指向 NvDsModelUpdatedSignal 组件的句柄。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsModelUpdatedSignal


output-instance-mask

网络输出中预期的实例掩码,并将其附加到元数据。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值: False


output-tensor-meta

将推理张量输出附加为缓冲区元数据。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值: False


process-mode

推理处理模式。

有效值

1: primary (主要的)

2: secondary (次要的)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_INT64

  • 默认值: 1


property-controller

用于 NvDsInferVideo 组件的属性控制器。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsInferVideoPropertyController


raw-output-file-write

将原始推理输出写入文件。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值: False


unique-id

元素的唯一 ID。可用于识别元素的输出。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 15


video-in

指向 nvidia::deepstream::NvDsStaticInput 组件的句柄。支持的格式 - video(NV12, RGBA)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticInput


video-out

指向 nvidia::deepstream::NvDsStaticOutput 组件的句柄。支持的格式 - video(NV12, RGBA)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticOutput

nvidia::deepstream::NvDsAsr#

对输入音频执行自动语音识别。请参阅 nvdsasr 插件

  • 组件 ID: f74d67fc-711e-364b-8a8b-e5a349304d15

  • 基本类型: nvidia::deepstream::INvDsElement

参数#

audio-in

指向 nvidia::deepstream::NvDsStaticInput 组件的句柄。支持的格式 - audio(S8, U8, S16LE, S16BE, U16LE, U16BE, S24_32LE, S24_32BE, U24_32LE, U24_32BE, S32LE, S32BE, U32LE, U32BE, S24LE, S24BE, U24LE, U24BE, S20LE, S20BE, U20LE, U20BE, S18LE, S18BE, U18LE, U18BE, F32LE, F32BE, F64LE, F64BE)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticInput


audio-out

指向 nvidia::deepstream::NvDsStaticOutput 组件的句柄。支持的格式 - audio(S8, U8, S16LE, S16BE, U16LE, U16BE, S24_32LE, S24_32BE, U24_32LE, U24_32BE, S32LE, S32BE, U32LE, U32BE, S24LE, S24BE, U24LE, U24BE, S20LE, S20BE, U20LE, U20BE, S18LE, S18BE, U18LE, U18BE, F32LE, F32BE, F64LE, F64BE)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticOutput


config-file

在自定义库中为 algo ctx 设置配置文件路径。

  • 标志: GXF_PARAMETER_FLAGS_NONE

  • 类型: GXF_PARAMETER_TYPE_FILE


create-speech-ctx-func

在自定义库中创建 algo ctx 的符号名称。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_STRING

  • 默认值: creat_asr_ctx


customlib-name

设置要使用的自定义库名称。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_FILE

  • 默认值: libnvds_speech_riva.so

nvidia::deepstream::NvDsInferAudio#

DeepStreamSDK 音频推理插件。请参阅 nvinferaudio 插件

  • 组件 ID: 582e8e1d-197c-32ce-a79e-3630785e9408

  • 基本类型: nvidia::deepstream::INvDsElement

参数#

audio-framesize

用于变换的帧大小。

  • 标志: GXF_PARAMETER_FLAGS_NONE

  • 类型: GXF_PARAMETER_TYPE_UINT64


audio-hopsize

用于变换的跳跃大小。

  • 标志: GXF_PARAMETER_FLAGS_NONE

  • 类型: GXF_PARAMETER_TYPE_UINT64


audio-in

指向 nvidia::deepstream::NvDsStaticInput 组件的句柄。支持的格式 - audio(S16LE)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticInput


audio-out

指向 nvidia::deepstream::NvDsStaticOutput 组件的句柄。支持的格式 - audio(S16LE)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticOutput


audio-transform

变换名称和参数。

  • 标志: GXF_PARAMETER_FLAGS_NONE

  • 类型: GXF_PARAMETER_TYPE_STRING


batch-size

推理的最大批次大小。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 1


classifier-type

nvinfer 实例的分类器类型。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_STRING


config-file-path

nvinfer 实例的配置文件路径。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_FILE


gpu-id

设置 GPU 设备 ID

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 0


infer-model-config

指向 INvDsInferModelConfigComponent 组件的句柄。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::INvDsInferModelConfigComponent


model-engine-file

模型预生成的序列化引擎文件的绝对路径。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_FILE


output-tensor-meta

将推理张量输出附加为缓冲区元数据。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值: False


raw-output-file-write

将原始推理输出写入文件。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值: False


unique-id

元素的唯一 ID。可用于识别元素的输出。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 15

nvidia::deepstream::NvDsPreProcess#

使用自定义算法对不同流进行预处理。有关更多信息,请参阅 https://docs.nvda.net.cn/metropolis/deepstream/dev-guide/text/DS_plugin_gst-nvdspreprocess.html

  • 组件 ID: 2abf4770-e210-3f41-abd6-0555b8ca107f

  • 基本类型: nvidia::deepstream::INvDsElement

参数#

unique-id

元素的唯一 ID。可用于识别元素的输出

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 15


enable

启用 gst-nvdspreprocess 插件,或设置为直通模式

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值: True


gpu-id

设置 GPU 设备 ID

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 0


config-file

预处理配置文件

  • 标志: GXF_PARAMETER_FLAGS_NONE

  • 类型: GXF_PARAMETER_TYPE_FILE


video-out

指向 nvidia::deepstream::NvDsStaticOutput 组件的句柄。支持的格式 - video(NV12, RGBA, I420)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticOutput


video-in

指向 nvidia::deepstream::NvDsStaticInput 组件的句柄。支持的格式 - video(NV12, RGBA, I420)

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticInput