IPluginCreator

tensorrt.PluginFieldType

自定义层的可能字段类型。

成员

FLOAT16

FLOAT32

FLOAT64

INT8

INT16

INT32

CHAR

DIMS

UNKNOWN

BF16

INT64

FP8

INT4

FP4

class tensorrt.PluginField(*args, **kwargs)

包含插件属性字段名称和关联数据。此信息可以被解析以解码必要的插件元数据

变量:

• name – str 插件字段属性名称。

• data – buffer 插件字段属性数据。

• type – PluginFieldType 插件字段属性类型。

• size – int 插件属性中的数据条目数。

重载函数。

1. __init__(self: tensorrt.tensorrt.PluginField, name: tensorrt.tensorrt.FallbackString = ‘’) -> None

2. __init__(self: tensorrt.tensorrt.PluginField, name: tensorrt.tensorrt.FallbackString, data: buffer, type: tensorrt.tensorrt.PluginFieldType = <PluginFieldType.UNKNOWN: 8>) -> None

class tensorrt.PluginFieldCollection(*args, **kwargs)

重载函数。

1. __init__(self: tensorrt.tensorrt.PluginFieldCollection) -> None

2. __init__(self: tensorrt.tensorrt.PluginFieldCollection, arg0: tensorrt.tensorrt.PluginFieldCollection) -> None

复制构造函数

3. __init__(self: tensorrt.tensorrt.PluginFieldCollection, arg0: Iterable) -> None

append(self: tensorrt.tensorrt.PluginFieldCollection, x: tensorrt.PluginField) → None

在列表末尾添加一个项目

clear(self: tensorrt.tensorrt.PluginFieldCollection) → None

清除内容

extend(*args, **kwargs)

重载函数。

1. extend(self: tensorrt.tensorrt.PluginFieldCollection, L: tensorrt.tensorrt.PluginFieldCollection) -> None

通过追加给定列表中的所有项目来扩展列表

2. extend(self: tensorrt.tensorrt.PluginFieldCollection, L: Iterable) -> None

通过追加给定列表中的所有项目来扩展列表

insert(self: tensorrt.tensorrt.PluginFieldCollection, i: int, x: tensorrt.PluginField) → None

在给定位置插入一个项目。

pop(*args, **kwargs)

重载函数。

1. pop(self: tensorrt.tensorrt.PluginFieldCollection) -> tensorrt.PluginField

移除并返回最后一个项目

2. pop(self: tensorrt.tensorrt.PluginFieldCollection, i: int) -> tensorrt.PluginField

移除并返回索引为 i 的项目

class tensorrt.IPluginCreatorInterface

插件子接口的基类。

class tensorrt.IPluginCreatorV3One(self: tensorrt.tensorrt.IPluginCreatorV3One)

用户实现层的插件创建器类

变量:

• tensorrt_version – int PluginField 条目的数量。

• name – str 插件名称。

• plugin_version – str 插件版本。

• field_names – list 需要传递给 create_plugin() 的字段列表。

• plugin_namespace – str 插件创建器的命名空间，基于其所属的插件库。这可以在注册插件创建器时设置。

create_plugin(self: tensorrt.tensorrt.IPluginCreatorV3One, name: str, field_collection: tensorrt.tensorrt.PluginFieldCollection_, phase: tensorrt.TensorRTPhase) → tensorrt.tensorrt.IPluginV3

创建一个新的插件。

参数:

• name – 插件的名称。

• field_collection – 此插件的 PluginFieldCollection。

返回值:

IPluginV2 或失败时返回 None。

class tensorrt.IPluginCreator(self: tensorrt.tensorrt.IPluginCreator)

用户实现层的插件创建器类

变量:

• tensorrt_version – int PluginField 条目的数量。

• name – str 插件名称。

• plugin_version – str 插件版本。

• field_names – list 需要传递给 create_plugin() 的字段列表。

• plugin_namespace – str 插件创建器的命名空间，基于其所属的插件库。这可以在注册插件创建器时设置。

create_plugin(self: tensorrt.tensorrt.IPluginCreator, name: str, field_collection: tensorrt.tensorrt.PluginFieldCollection_) → tensorrt.tensorrt.IPluginV2

创建一个新的插件。

参数:

• name – 插件的名称。

• field_collection – 此插件的 PluginFieldCollection。

返回值:

IPluginV2 或失败时返回 None。

deserialize_plugin(*args, **kwargs)

重载函数。

1. deserialize_plugin(self: tensorrt.tensorrt.IPluginCreator, name: str, serialized_plugin: buffer) -> tensorrt.tensorrt.IPluginV2

   从序列化的插件创建一个插件对象。

   警告

   此 API 仅在从 Python 程序调用 C++ 插件时适用。

   serialized_plugin 将包含一个 Python 字节对象，其中包含插件的序列化表示。

   arg name:

   插件的名称。

   arg serialized_plugin:

   包含序列化插件的缓冲区。

   returns:

   一个新的 IPluginV2

2. deserialize_plugin(self: tensorrt.tensorrt.IPluginV2DynamicExt, name: str, serialized_plugin: bytes) -> tensorrt.tensorrt.IPluginV2DynamicExt

   从序列化的插件创建一个插件对象。

   警告

   此 API 仅在实现基于 Python 的插件时适用。

   serialized_plugin 包含插件的序列化表示。

   arg name:

   插件的名称。

   arg serialized_plugin:

   包含序列化插件的字符串。

   returns:

   一个新的 IPluginV2