NvDsTritonExt#

NVIDIA DeepStream Triton 扩展

  • UUID: 68de050b-138f-4f60-af99-e74125ab929e

  • 版本: 1.6.0

  • 作者：NVIDIA

  • 许可证：专有

组件#

nvidia::deepstream::NvDsTriton#

Nvidia DeepStreamSDK TensorRT Bin. 内部 Pipeline: queue->nvinferserver。请参考 nvinferserver 插件

  • 组件 ID: 93f32aa2-c79c-350c-862f-e090d52f2162

  • 基本类型: nvidia::deepstream::INvDsElement

参数#

batch-size

最大推理批次大小。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 1


config-file-path

当前 nvinfer 实例的配置文件路径。

  • 标志: GXF_PARAMETER_FLAGS_NONE

  • 类型: GXF_PARAMETER_TYPE_FILE


filter-out-class-ids

忽略指定类别 ID 的对象的元数据。使用字符串，其中包含 ClassID (int) 中的类别 ID 值来设置属性。例如：0;2;3。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_STRING


gpu-id

设置 GPU 设备 ID

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 0


infer-on-class-ids

对具有指定类别 ID 的对象进行操作。使用字符串，其中包含 ClassID (int) 中的类别 ID 值来设置属性。例如：0:2:3

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_STRING


infer-on-gie-id

对具有此唯一 ID 的 GIE 生成的元数据进行推理。设置为 -1 以对所有元数据进行推理。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_INT64

  • 默认值: -1


input-tensor-meta

使用预处理的输入张量作为元数据附件，而不是在插件内部进行预处理

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL


interval

指定要跳过推理的连续批次数。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 0


model-engine-file

模型预生成的序列化引擎文件的绝对路径。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_FILE


output-instance-mask

网络输出中预期的实例掩码并将其附加到元数据。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值：False


output-tensor-meta

将推理张量输出作为缓冲区元数据附加。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值：False


process-mode

推理处理模式。

有效值

1: primary

2: secondary

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_INT64

  • 默认值: 1


raw-output-file-write

将原始推理输出写入文件。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_BOOL

  • 默认值：False


unique-id

元素的唯一 ID。可用于标识元素的输出。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_UINT64

  • 默认值: 15


video-in

指向 nvidia::deepstream::NvDsStaticInput 组件的句柄。支持的格式 - video(NV12, RGBA)。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticInput


video-out

指向 nvidia::deepstream::NvDsStaticOutput 组件的句柄。支持的格式 - video(NV12, RGBA)。

  • 标志: GXF_PARAMETER_FLAGS_OPTIONAL

  • 类型: GXF_PARAMETER_TYPE_HANDLE

  • 句柄类型: nvidia::deepstream::NvDsStaticOutput

在本页中