NvInferRuntimeBase.h 文件参考

#include "NvInferVersion.h"
#include <cstddef>
#include <cstdint>
#include <cuda_runtime_api.h>

转到此文件的源代码。

类
struct	nvinfer1::impl::EnumMaxImpl< DataType >
	DataType 枚举中元素的最大数量。 更多...
class	nvinfer1::Dims64
class	nvinfer1::InterfaceInfo
	与 TRT 接口关联的版本信息。 更多...
struct	nvinfer1::impl::EnumMaxImpl< APILanguage >
	APILanguage 枚举中元素的最大数量。 更多...
class	nvinfer1::IVersionedInterface
	用于版本控制的接口类。 更多...
struct	nvinfer1::impl::EnumMaxImpl< ErrorCode >
	ErrorCode 枚举中元素的最大数量。 更多...
class	nvinfer1::v_1_0::IErrorRecorder
struct	nvinfer1::impl::EnumMaxImpl< TensorIOMode >
	TensorIOMode 枚举中元素的最大数量。 更多...

命名空间
namespace	nvinfer1
	TensorRT API 版本 1 的命名空间。
namespace	nvinfer1::v_1_0
	前向声明 IErrorRecorder 以便在其他接口中使用。
namespace	nvinfer1::impl

宏
#define	TRT_DEPRECATED   __attribute__((deprecated))
#define	TRT_DEPRECATED_ENUM
#define	TRT_DEPRECATED_API   __attribute__((deprecated, visibility("default")))
#define	TENSORRTAPI
#define	TRTNOEXCEPT
#define	NV_TENSORRT_VERSION_INT(major, minor, patch)   ((major) *10000L + (minor) *100L + (patch) *1L)
#define	NV_TENSORRT_VERSION   NV_TENSORRT_VERSION_INT(NV_TENSORRT_MAJOR, NV_TENSORRT_MINOR, NV_TENSORRT_PATCH)

类型定义
using	nvinfer1::char_t = char
	char_t 是 TensorRT 用来表示所有有效字符的类型。 更多...
using	nvinfer1::AsciiChar = char_t
using	nvinfer1::IErrorRecorder = v_1_0::IErrorRecorder
using	nvinfer1::Dims = Dims64
using	nvinfer1::InterfaceKind = char const *

枚举
enum class	nvinfer1::DataType : int32_t {   nvinfer1::kFLOAT = 0 , nvinfer1::kHALF = 1 , nvinfer1::kINT8 = 2 , nvinfer1::kINT32 = 3 ,   nvinfer1::kBOOL = 4 , nvinfer1::kUINT8 = 5 , nvinfer1::kFP8 = 6 , nvinfer1::kBF16 = 7 ,   nvinfer1::kINT64 = 8 , nvinfer1::kINT4 = 9 , nvinfer1::kFP4 = 10 }
	权重和张量的类型。 更多...
enum class	nvinfer1::APILanguage : int32_t { nvinfer1::kCPP = 0 , nvinfer1::kPYTHON = 1 }
	在 TRT 接口的实现中使用的编程语言。 更多...
enum class	nvinfer1::ErrorCode : int32_t {   nvinfer1::kSUCCESS = 0 , nvinfer1::kUNSPECIFIED_ERROR = 1 , nvinfer1::kINTERNAL_ERROR = 2 , nvinfer1::kINVALID_ARGUMENT = 3 ,   nvinfer1::kINVALID_CONFIG = 4 , nvinfer1::kFAILED_ALLOCATION = 5 , nvinfer1::kFAILED_INITIALIZATION = 6 , nvinfer1::kFAILED_EXECUTION = 7 ,   nvinfer1::kFAILED_COMPUTATION = 8 , nvinfer1::kINVALID_STATE = 9 , nvinfer1::kUNSUPPORTED_STATE = 10 }
	TensorRT 在执行期间可能返回的错误代码。 更多...
enum class	nvinfer1::TensorIOMode : int32_t { nvinfer1::kNONE = 0 , nvinfer1::kINPUT = 1 , nvinfer1::kOUTPUT = 2 }
	张量 IO 模式的定义。 更多...

函数
template<typename T >
constexpr int32_t	nvinfer1::EnumMax () noexcept
	枚举类型中元素的最大数量。 更多...
int32_t	getInferLibVersion () noexcept
	返回库版本号。 更多...

详细描述

此文件包含标准运行时和安全运行时之间共享的通用定义、数据结构和接口。

警告

请勿直接包含此文件。 请改为包含以下文件之一

• NvInferRuntime.h（用于标准运行时）
• NvInferPluginUtils.h（用于插件实用程序）

宏定义文档

NV_TENSORRT_VERSION

#define NV_TENSORRT_VERSION   NV_TENSORRT_VERSION_INT(NV_TENSORRT_MAJOR, NV_TENSORRT_MINOR, NV_TENSORRT_PATCH)

TensorRT 版本，以单个整数表示。可在预处理器表达式中使用。

NV_TENSORRT_VERSION_INT

#define NV_TENSORRT_VERSION_INT	(		major,
			minor,
			patch
	)		((major) *10000L + (minor) *100L + (patch) *1L)

构造一个表示 TensorRT 版本的整数。可在预处理器表达式中使用。

TENSORRTAPI

#define TENSORRTAPI

TRT_DEPRECATED

#define TRT_DEPRECATED   __attribute__((deprecated))

TRT_DEPRECATED_API

#define TRT_DEPRECATED_API   __attribute__((deprecated, visibility("default")))

TRT_DEPRECATED_ENUM

#define TRT_DEPRECATED_ENUM

TRTNOEXCEPT

#define TRTNOEXCEPT

函数文档

getInferLibVersion()

int32_t getInferLibVersion ( )

noexcept

返回库版本号。

格式与 TENSORRT_VERSION 相同：(MAJOR * 100 + MINOR) * 100 + PATCH