TensorRT 10.8.0
NvInfer.h 文件参考
#include "NvInferLegacyDims.h"
#include "NvInferRuntime.h"

转到此文件的源代码。

struct  nvinfer1::impl::EnumMaxImpl< ActivationType >
 
class  nvinfer1::ITensor
 网络定义中的张量。 更多...
 
class  nvinfer1::ILayer
 网络定义中所有层类的基类。 更多...
 
struct  nvinfer1::impl::EnumMaxImpl< PaddingMode >
 
class  nvinfer1::IConvolutionLayer
 网络定义中的卷积层。 更多...
 
class  nvinfer1::IActivationLayer
 网络定义中的激活层。 更多...
 
struct  nvinfer1::impl::EnumMaxImpl< PoolingType >
 
class  nvinfer1::IPoolingLayer
 网络定义中的池化层。 更多...
 
class  nvinfer1::ILRNLayer
 网络定义中的 LRN 层。 更多...
 
class  nvinfer1::IScaleLayer
 网络定义中的 Scale 层。 更多...
 
class  nvinfer1::ISoftMaxLayer
 网络定义中的 Softmax 层。 更多...
 
class  nvinfer1::IConcatenationLayer
 网络定义中的连接层。 更多...
 
class  nvinfer1::IDeconvolutionLayer
 网络定义中的反卷积层。 更多...
 
struct  nvinfer1::impl::EnumMaxImpl< ElementWiseOperation >
 
class  nvinfer1::IElementWiseLayer
 网络定义中的逐元素层。 更多...
 
class  nvinfer1::IGatherLayer
 网络定义中的 Gather 层。 支持多种 Gather 方式。 更多...
 
class  nvinfer1::IPluginV2Layer
 pluginV2 的层类型。 更多...
 
class  nvinfer1::IPluginV3Layer
 V3 插件的层类型。 更多...
 
class  nvinfer1::IUnaryLayer
 表示一元运算的层。 更多...
 
class  nvinfer1::IReduceLayer
 表示跨非布尔张量进行规约的层。 更多...
 
class  nvinfer1::IPaddingLayer
 表示填充操作的层。 更多...
 
struct  nvinfer1::Permutation
 表示维度的排列。 更多...
 
class  nvinfer1::IShuffleLayer
 用于数据混洗的层类型。 更多...
 
class  nvinfer1::ISliceLayer
 根据偏移量和步幅将输入张量切片为输出张量。 更多...
 
class  nvinfer1::IShapeLayer
 用于获取张量形状的层类型。 更多...
 
class  nvinfer1::ITopKLayer
 表示 TopK 规约的层。 更多...
 
class  nvinfer1::IMatrixMultiplyLayer
 表示矩阵乘法的层。 更多...
 
class  nvinfer1::INonZeroLayer
 
class  nvinfer1::IRaggedSoftMaxLayer
 网络定义中的 RaggedSoftmax 层。 更多...
 
class  nvinfer1::IIdentityLayer
 表示恒等函数的层。 更多...
 
class  nvinfer1::ICastLayer
 网络中的类型转换层。 更多...
 
class  nvinfer1::IConstantLayer
 表示常量值的层。 更多...
 
class  nvinfer1::IParametricReLULayer
 表示参数化 ReLU 运算的层。 更多...
 
struct  nvinfer1::impl::EnumMaxImpl< InterpolationMode >
 
struct  nvinfer1::impl::EnumMaxImpl< ResizeCoordinateTransformation >
 
struct  nvinfer1::impl::EnumMaxImpl< ResizeSelector >
 
struct  nvinfer1::impl::EnumMaxImpl< ResizeRoundMode >
 
class  nvinfer1::IResizeLayer
 网络定义中的调整大小层。 更多...
 
class  nvinfer1::ILoopBoundaryLayer
 这是循环边界层的基类。 更多...
 
class  nvinfer1::IIfConditionalBoundaryLayer
 这是条件边界层的基类。 更多...
 
class  nvinfer1::IConditionLayer
 此层表示 IIfConditional 的条件输入。 更多...
 
class  nvinfer1::IIfConditionalOutputLayer
 此层表示 IIfConditional 的输出。 更多...
 
class  nvinfer1::IIfConditionalInputLayer
 此层表示 IIfConditional 的输入。 更多...
 
class  nvinfer1::IIfConditional
 用于构建条件执行子图的助手。 更多...
 
class  nvinfer1::IRecurrenceLayer
 网络定义中的循环层。 更多...
 
class  nvinfer1::ILoopOutputLayer
 ILoopOutputLayer 是从循环获取输出的唯一方法。 更多...
 
class  nvinfer1::ITripLimitLayer
 表示行程计数限制器的层。 更多...
 
class  nvinfer1::IIteratorLayer
 用于执行迭代的层。 更多...
 
class  nvinfer1::ILoop
 用于创建循环子图的助手。 更多...
 
class  nvinfer1::ISelectLayer
 根据条件张量从两个数据张量中选择元素。 更多...
 
class  nvinfer1::IAssertionLayer
 网络中的断言层。 更多...
 
class  nvinfer1::IFillLayer
 根据指定模式生成张量。 更多...
 
class  nvinfer1::IQuantizeLayer
 网络定义中的量化层。 更多...
 
class  nvinfer1::IDequantizeLayer
 网络定义中的反量化层。 更多...
 
class  nvinfer1::IDynamicQuantizeLayer
 执行动态量化的网络层。 更多...
 
class  nvinfer1::IEinsumLayer
 网络中的 Einsum 层。 更多...
 
class  nvinfer1::IScatterLayer
 网络定义中的 Scatter 层。 支持多种 Scatter 方式。 更多...
 
class  nvinfer1::IOneHotLayer
 网络定义中的 OneHot 层。 更多...
 
class  nvinfer1::IGridSampleLayer
 网络定义中的 GridSample 层。 更多...
 
class  nvinfer1::INMSLayer
 网络定义中的非极大值抑制层。 更多...
 
class  nvinfer1::IReverseSequenceLayer
 网络定义中的 ReverseSequence 层。 更多...
 
class  nvinfer1::INormalizationLayer
 网络定义中的归一化层。 更多...
 
class  nvinfer1::ISqueezeLayer
 表示挤压操作的层,用于移除输入张量在一组轴上的单位维度。 更多...
 
class  nvinfer1::IUnsqueezeLayer
 表示unsqueeze操作的层,它通过在输出的指定轴处插入单位长度维度来重塑输入张量。 更多...
 
struct  nvinfer1::impl::EnumMaxImpl< CumulativeOperation >
 CumulativeOperation 枚举中元素的最大数量。 更多...
 
class  nvinfer1::ICumulativeLayer
 表示跨张量的累积运算的层。 更多...
 
class  nvinfer1::INetworkDefinition
 构建器的网络定义输入。 更多...
 
class  nvinfer1::IInt8Calibrator
 应用程序实现的校准接口。 更多...
 
class  nvinfer1::v_1_0::IInt8EntropyCalibrator
 
class  nvinfer1::v_1_0::IInt8EntropyCalibrator2
 
class  nvinfer1::v_1_0::IInt8MinMaxCalibrator
 
class  nvinfer1::v_1_0::IInt8LegacyCalibrator
 
class  nvinfer1::IAlgorithmIOInfo
 携带关于算法输入或输出的信息。 所有输入和输出的 IAlgorithmIOInfo 以及 IAlgorithmVariant 表示算法的变体,可用于使用 IAlgorithmSelector::selectAlgorithms() 选择或重现算法。 更多...
 
class  nvinfer1::IAlgorithmVariant
 提供唯一的 128 位标识符,该标识符与输入和输出信息一起表示算法的变体,可用于使用 IAlgorithmSelector::selectAlgorithms() 选择或重现算法 更多...
 
class  nvinfer1::IAlgorithmContext
 描述上下文和需求,这些上下文和需求可以由一个或多个 IAlgorithm 实例满足。 更多...
 
class  nvinfer1::IAlgorithm
 描述层的执行变体。 算法由 IAlgorithmVariant 和每个输入和输出的 IAlgorithmIOInfo 表示。 可以使用 AlgorithmSelector::selectAlgorithms() 选择或重现算法。 更多...
 
class  nvinfer1::v_1_0::IAlgorithmSelector
 
struct  nvinfer1::impl::EnumMaxImpl< RuntimePlatform >
 
struct  nvinfer1::v_1_0::TimingCacheKey
 用于检索时序缓存条目的键。 更多...
 
struct  nvinfer1::v_1_0::TimingCacheValue
 
class  nvinfer1::ITimingCache
 用于处理从构建器收集的策略时序信息的类。 更多...
 
struct  nvinfer1::impl::EnumMaxImpl< PreviewFeature >
 
struct  nvinfer1::impl::EnumMaxImpl< HardwareCompatibilityLevel >
 
struct  nvinfer1::impl::EnumMaxImpl< TilingOptimizationLevel >
 
class  nvinfer1::v_1_0::IProgressMonitor
 
class  nvinfer1::IBuilderConfig
 包含用于配置构建器以生成引擎的属性。 更多...
 
class  nvinfer1::IBuilder
 从网络定义构建引擎。 更多...
 

命名空间

namespace  nvinfer1
 TensorRT API 版本 1 的命名空间。
 
namespace  nvinfer1::impl
 
namespace  nvinfer1::v_1_0
 前向声明 IErrorRecorder 以在其他接口中使用。
 
namespace  nvinfer1::anonymous_namespace{NvInfer.h}
 
namespace  nvinfer1::safe
 

类型定义

using nvinfer1::TensorFormats = uint32_t
 它能够通过二进制 OR 运算表示一个或多个 TensorFormat,例如,1U << TensorFormat::kCHW4 | 1U << TensorFormat::kCHW32更多...
 
using nvinfer1::IInt8EntropyCalibrator = v_1_0::IInt8EntropyCalibrator
 
using nvinfer1::IInt8EntropyCalibrator2 = v_1_0::IInt8EntropyCalibrator2
 
using nvinfer1::IInt8MinMaxCalibrator = v_1_0::IInt8MinMaxCalibrator
 
using nvinfer1::IInt8LegacyCalibrator = v_1_0::IInt8LegacyCalibrator
 
using nvinfer1::IAlgorithmSelector = v_1_0::IAlgorithmSelector
 
using nvinfer1::QuantizationFlags = uint32_t
 使用二进制 OR 运算表示一个或多个 QuantizationFlag 值。 更多...
 
using nvinfer1::BuilderFlags = uint32_t
 使用二进制 OR 运算表示一个或多个 BuilderFlag 值,例如,1U << BuilderFlag::kFP16 | 1U << BuilderFlag::kDEBUG更多...
 
using nvinfer1::IProgressMonitor = v_1_0::IProgressMonitor
 
using nvinfer1::NetworkDefinitionCreationFlags = uint32_t
 使用二进制 OR 运算表示一个或多个 NetworkDefinitionCreationFlag 标志。 例如,1U << NetworkDefinitionCreationFlag::kSTRONGLY_TYPED更多...
 

枚举

enum class  nvinfer1::LayerType : int32_t {
  nvinfer1::kCONVOLUTION = 0 , nvinfer1::kCAST = 1 , nvinfer1::kACTIVATION = 2 , nvinfer1::kPOOLING = 3 ,
  nvinfer1::kLRN = 4 , nvinfer1::kSCALE = 5 , nvinfer1::kSOFTMAX = 6 , nvinfer1::kDECONVOLUTION = 7 ,
  nvinfer1::kCONCATENATION = 8 , nvinfer1::kELEMENTWISE = 9 , nvinfer1::kPLUGIN = 10 , nvinfer1::kUNARY = 11 ,
  nvinfer1::kPADDING = 12 , nvinfer1::kSHUFFLE = 13 , nvinfer1::kREDUCE = 14 , nvinfer1::kTOPK = 15 ,
  nvinfer1::kGATHER = 16 , nvinfer1::kMATRIX_MULTIPLY = 17 , nvinfer1::kRAGGED_SOFTMAX = 18 , nvinfer1::kCONSTANT = 19 ,
  nvinfer1::kIDENTITY = 20 , nvinfer1::kPLUGIN_V2 = 21 , nvinfer1::kSLICE = 22 , nvinfer1::kSHAPE = 23 ,
  nvinfer1::kPARAMETRIC_RELU = 24 , nvinfer1::kRESIZE = 25 , nvinfer1::kTRIP_LIMIT = 26 , nvinfer1::kRECURRENCE = 27 ,
  nvinfer1::kITERATOR = 28 , nvinfer1::kLOOP_OUTPUT = 29 , nvinfer1::kSELECT = 30 , nvinfer1::kFILL = 31 ,
  nvinfer1::kQUANTIZE = 32 , nvinfer1::kDEQUANTIZE = 33 , nvinfer1::kCONDITION = 34 , nvinfer1::kCONDITIONAL_INPUT = 35 ,
  nvinfer1::kCONDITIONAL_OUTPUT = 36 , nvinfer1::kSCATTER = 37 , nvinfer1::kEINSUM = 38 , nvinfer1::kASSERTION = 39 ,
  nvinfer1::kONE_HOT = 40 , nvinfer1::kNON_ZERO = 41 , nvinfer1::kGRID_SAMPLE = 42 , nvinfer1::kNMS = 43 ,
  nvinfer1::kREVERSE_SEQUENCE = 44 , nvinfer1::kNORMALIZATION = 45 , nvinfer1::kPLUGIN_V3 = 46 , nvinfer1::kSQUEEZE = 47 ,
  nvinfer1::kUNSQUEEZE = 48 , nvinfer1::kCUMULATIVE = 49 , nvinfer1::kDYNAMIC_QUANTIZE = 50
}
 层类的类型值。 更多...
 
enum class  nvinfer1::ActivationType : int32_t {
  nvinfer1::kRELU = 0 , nvinfer1::kSIGMOID = 1 , nvinfer1::kTANH = 2 , nvinfer1::kLEAKY_RELU = 3 ,
  nvinfer1::kELU = 4 , nvinfer1::kSELU = 5 , nvinfer1::kSOFTSIGN = 6 , nvinfer1::kSOFTPLUS = 7 ,
  nvinfer1::kCLIP = 8 , nvinfer1::kHARD_SIGMOID = 9 , nvinfer1::kSCALED_TANH = 10 , nvinfer1::kTHRESHOLDED_RELU = 11 ,
  nvinfer1::kGELU_ERF = 12 , nvinfer1::kGELU_TANH = 13
}
 枚举要在激活层中执行的激活类型。 更多...
 
enum class  nvinfer1::PaddingMode : int32_t { nvinfer1::kEXPLICIT_ROUND_DOWN = 0 , nvinfer1::kEXPLICIT_ROUND_UP = 1 , nvinfer1::kSAME_UPPER = 2 , nvinfer1::kSAME_LOWER = 3 }
 枚举要在卷积、反卷积和池化层中执行的填充模式,如果也使用了 setPaddingMode() 和 setPrePadding(),则填充模式优先。 更多...
 
enum class  nvinfer1::PoolingType : int32_t { nvinfer1::kMAX = 0 , nvinfer1::kAVERAGE = 1 , nvinfer1::kMAX_AVERAGE_BLEND = 2 }
 要在池化层中执行的池化类型。 更多...
 
enum class  nvinfer1::ScaleMode : int32_t { nvinfer1::kUNIFORM = 0 , nvinfer1::kCHANNEL = 1 , nvinfer1::kELEMENTWISE = 2 }
 控制如何在 Scale 层中应用 shift、scale 和 power。 更多...
 
enum class  nvinfer1::ElementWiseOperation : int32_t {
  nvinfer1::kSUM = 0 , nvinfer1::kPROD = 1 , nvinfer1::kMAX = 2 , nvinfer1::kMIN = 3 ,
  nvinfer1::kSUB = 4 , nvinfer1::kDIV = 5 , nvinfer1::kPOW = 6 , nvinfer1::kFLOOR_DIV = 7 ,
  nvinfer1::kAND = 8 , nvinfer1::kOR = 9 , nvinfer1::kXOR = 10 , nvinfer1::kEQUAL = 11 ,
  nvinfer1::kGREATER = 12 , nvinfer1::kLESS = 13
}
 枚举 ElementWise 层可以执行的二元运算。 更多...
 
enum class  nvinfer1::GatherMode : int32_t { nvinfer1::kDEFAULT = 0 , nvinfer1::kELEMENT = 1 , nvinfer1::kND = 2 }
 控制 IGatherLayer 的形式。 更多...
 
enum class  nvinfer1::UnaryOperation : int32_t {
  nvinfer1::kEXP = 0 , nvinfer1::kLOG = 1 , nvinfer1::kSQRT = 2 , nvinfer1::kRECIP = 3 ,
  nvinfer1::kABS = 4 , nvinfer1::kNEG = 5 , nvinfer1::kSIN = 6 , nvinfer1::kCOS = 7 ,
  nvinfer1::kTAN = 8 , nvinfer1::kSINH = 9 , nvinfer1::kCOSH = 10 , nvinfer1::kASIN = 11 ,
  nvinfer1::kACOS = 12 , nvinfer1::kATAN = 13 , nvinfer1::kASINH = 14 , nvinfer1::kACOSH = 15 ,
  nvinfer1::kATANH = 16 , nvinfer1::kCEIL = 17 , nvinfer1::kFLOOR = 18 , nvinfer1::kERF = 19 ,
  nvinfer1::kNOT = 20 , nvinfer1::kSIGN = 21 , nvinfer1::kROUND = 22 , nvinfer1::kISINF = 23 ,
  nvinfer1::kISNAN = 24
}
 枚举 Unary 层可以执行的一元运算。 更多...
 
enum class  nvinfer1::ReduceOperation : int32_t {
  nvinfer1::kSUM = 0 , nvinfer1::kPROD = 1 , nvinfer1::kMAX = 2 , nvinfer1::kMIN = 3 ,
  nvinfer1::kAVG = 4
}
 枚举 Reduce 层可以执行的规约运算。 更多...
 
enum class  nvinfer1::SampleMode : int32_t {
  nvinfer1::kSTRICT_BOUNDS = 0 , nvinfer1::kWRAP = 1 , nvinfer1::kCLAMP = 2 , nvinfer1::kFILL = 3 ,
  nvinfer1::kREFLECT = 4
}
 控制 ISliceLayer 和 IGridSample 如何处理越界坐标。 更多...
 
enum class  nvinfer1::TopKOperation : int32_t { nvinfer1::kMAX = 0 , nvinfer1::kMIN = 1 }
 枚举 TopK 层可以执行的运算。 更多...
 
enum class  nvinfer1::MatrixOperation : int32_t { nvinfer1::kNONE = 0 , nvinfer1::kTRANSPOSE = 1 , nvinfer1::kVECTOR = 2 }
 枚举 IMatrixMultiplyLayer 在乘法之前可以对张量执行的运算。 更多...
 
enum class  nvinfer1::InterpolationMode : int32_t { nvinfer1::kNEAREST = 0 , nvinfer1::kLINEAR = 1 , nvinfer1::kCUBIC = 2 }
 枚举各种插值模式。 更多...
 
enum class  nvinfer1::ResizeCoordinateTransformation : int32_t { nvinfer1::kALIGN_CORNERS = 0 , nvinfer1::kASYMMETRIC = 1 , nvinfer1::kHALF_PIXEL = 2 }
 调整大小坐标变换函数。 更多...
 
enum class  nvinfer1::ResizeSelector : int32_t { nvinfer1::kFORMULA = 0 , nvinfer1::kUPPER = 1 }
 调整大小到单像素输出时的坐标选择器。 更多...
 
enum class  nvinfer1::ResizeRoundMode : int32_t { nvinfer1::kHALF_UP = 0 , nvinfer1::kHALF_DOWN = 1 , nvinfer1::kFLOOR = 2 , nvinfer1::kCEIL = 3 }
 最近邻调整大小的舍入模式。 更多...
 
enum class  nvinfer1::LoopOutput : int32_t { nvinfer1::kLAST_VALUE = 0 , nvinfer1::kCONCATENATE = 1 , nvinfer1::kREVERSE = 2 }
 
enum class  nvinfer1::TripLimit : int32_t { nvinfer1::kCOUNT = 0 , nvinfer1::kWHILE = 1 }
 
enum class  nvinfer1::FillOperation : int32_t { nvinfer1::kLINSPACE = 0 , nvinfer1::kRANDOM_UNIFORM = 1 , nvinfer1::kRANDOM_NORMAL = 2 }
 枚举填充层可以执行的张量填充操作。 更多...
 
enum class  nvinfer1::ScatterMode : int32_t { nvinfer1::kELEMENT = 0 , nvinfer1::kND = 1 }
 IScatterLayer 的控制形式。 更多...
 
enum class  nvinfer1::BoundingBoxFormat : int32_t { nvinfer1::kCORNER_PAIRS = 0 , nvinfer1::kCENTER_SIZES = 1 }
 用于 INMSLayer 中 Boxes 输入张量的边界框数据表示。 更多...
 
enum class  nvinfer1::CumulativeOperation : int32_t { nvinfer1::kSUM = 0 }
 枚举累积层可以执行的累积操作。 更多...
 
enum class  nvinfer1::CalibrationAlgoType : int32_t { nvinfer1::kLEGACY_CALIBRATION = 0 , nvinfer1::kENTROPY_CALIBRATION = 1 , nvinfer1::kENTROPY_CALIBRATION_2 = 2 , nvinfer1::kMINMAX_CALIBRATION = 3 }
 要使用的校准算法版本。 更多...
 
enum class  nvinfer1::QuantizationFlag : int32_t { nvinfer1::kCALIBRATE_BEFORE_FUSION = 0 }
 将网络量化为 int8 的有效标志列表。 更多...
 
enum class  nvinfer1::RuntimePlatform : int32_t { nvinfer1::kSAME_AS_BUILD = 0 , nvinfer1::kWINDOWS_AMD64 = 1 }
 描述 TensorRT 引擎执行的预期运行时平台(操作系统和 CPU 架构)。当目标运行时平台与构建平台不同时,TensorRT 提供对跨平台引擎兼容性的支持。 更多...
 
enum class  nvinfer1::BuilderFlag : int32_t {
  nvinfer1::kFP16 = 0 , nvinfer1::kINT8 = 1 , nvinfer1::kDEBUG = 2 , nvinfer1::kGPU_FALLBACK = 3 ,
  nvinfer1::kREFIT = 4 , nvinfer1::kDISABLE_TIMING_CACHE = 5 , nvinfer1::kTF32 = 6 , nvinfer1::kSPARSE_WEIGHTS = 7 ,
  nvinfer1::kSAFETY_SCOPE = 8 , nvinfer1::kOBEY_PRECISION_CONSTRAINTS = 9 , nvinfer1::kPREFER_PRECISION_CONSTRAINTS = 10 , nvinfer1::kDIRECT_IO = 11 ,
  nvinfer1::kREJECT_EMPTY_ALGORITHMS = 12 , nvinfer1::kVERSION_COMPATIBLE = 13 , nvinfer1::kEXCLUDE_LEAN_RUNTIME = 14 , nvinfer1::kFP8 = 15 ,
  nvinfer1::kERROR_ON_TIMING_CACHE_MISS = 16 , nvinfer1::kBF16 = 17 , nvinfer1::kDISABLE_COMPILATION_CACHE = 18 , nvinfer1::kSTRIP_PLAN = 19 ,
  nvinfer1::kWEIGHTLESS = kSTRIP_PLAN , nvinfer1::kREFIT_IDENTICAL = 20 , nvinfer1::kWEIGHT_STREAMING = 21 , nvinfer1::kINT4 = 22 ,
  nvinfer1::kREFIT_INDIVIDUAL = 23 , nvinfer1::kSTRICT_NANS = 24 , nvinfer1::kMONITOR_MEMORY = 25 , nvinfer1::kFP4 = 26 ,
  nvinfer1::kEDITABLE_TIMING_CACHE = 27
}
 构建器在从网络定义创建引擎时可以启用的有效模式列表。 更多...
 
enum class  nvinfer1::MemoryPoolType : int32_t {
  nvinfer1::kWORKSPACE = 0 , nvinfer1::kDLA_MANAGED_SRAM = 1 , nvinfer1::kDLA_LOCAL_DRAM = 2 , nvinfer1::kDLA_GLOBAL_DRAM = 3 ,
  nvinfer1::kTACTIC_DRAM = 4 , nvinfer1::kTACTIC_SHARED_MEMORY = 5
}
 TensorRT 使用的内存池类型。 更多...
 
enum class  nvinfer1::PreviewFeature : int32_t { nvinfer1::kPROFILE_SHARING_0806 = 0 , nvinfer1::kALIASED_PLUGIN_IO_10_03 = 1 }
 定义预览功能。 更多...
 
enum class  nvinfer1::HardwareCompatibilityLevel : int32_t { nvinfer1::kNONE = 0 , nvinfer1::kAMPERE_PLUS = 1 }
 描述与构建引擎的 GPU 以外的 GPU 架构的兼容性要求。 更多...
 
enum class  nvinfer1::TilingOptimizationLevel : int32_t { nvinfer1::kNONE = 0 , nvinfer1::kFAST = 1 , nvinfer1::kMODERATE = 2 , nvinfer1::kFULL = 3 }
 定义分块的优化级别。 更多...
 
enum class  nvinfer1::NetworkDefinitionCreationFlag : int32_t { nvinfer1::kEXPLICIT_BATCH = 0 , nvinfer1::kSTRONGLY_TYPED = 1 }
 在网络创建时表达的不可变网络属性列表。NetworkDefinitionCreationFlag 与 createNetworkV2() 一起使用,以指定网络的不可变属性。 更多...
 

函数

template<>
constexpr int32_t nvinfer1::EnumMax< LayerType > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< ScaleMode > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< GatherMode > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< UnaryOperation > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< ReduceOperation > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< SampleMode > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< TopKOperation > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< MatrixOperation > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< LoopOutput > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< TripLimit > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< FillOperation > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< ScatterMode > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< BoundingBoxFormat > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< CalibrationAlgoType > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< QuantizationFlag > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< BuilderFlag > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< MemoryPoolType > () noexcept
 
template<>
constexpr int32_t nvinfer1::EnumMax< NetworkDefinitionCreationFlag > () noexcept
 
IBuilder * nvinfer1::anonymous_namespace{NvInfer.h}::createInferBuilder (ILogger &logger) noexcept
 创建 IBuilder 类的实例。 更多...
 
nvinfer1::IPluginRegistrynvinfer1::getBuilderPluginRegistry (nvinfer1::EngineCapability capability) noexcept
 返回用于构建标准引擎的插件注册表,如果不存在注册表,则返回 nullptr。 更多...
 
nvinfer1::safe::IPluginRegistry * nvinfer1::getBuilderSafePluginRegistry (nvinfer1::EngineCapability capability) noexcept
 返回用于构建安全引擎的插件注册表,如果不存在注册表,则返回 nullptr。 更多...
 

详细描述

TensorRT 版本控制遵循此处指定的语义版本控制指南: https://semver.org/

这是 TensorRT 的顶级 API 文件。

  版权所有 © 2024 NVIDIA 公司
  隐私政策 | 管理我的隐私 | 请勿出售或分享我的数据 | 服务条款 | 无障碍访问 | 公司政策 | 产品安全 | 联系我们