TensorRT 10.8.0
nvinfer1::Weights 类参考

用作层参数的权重数组。 更多...

#include <NvInferRuntime.h>

公共属性

DataType type
 权重的类型。 更多...
 
void const * values
 权重值,以连续数组形式存储。 更多...
 
int64_t count
 数组中权重的数量。 更多...
 

详细描述

用作层参数的权重数组。

当使用 DLA 时,网络中使用的所有 Weights 的累积大小必须小于 512MB。如果指定了构建选项 kGPU_FALLBACK,则可能会从单个原始网络生成多个 DLA 子网络。

权重通过引用持有,直到引擎构建完成。因此,应保留 values 字段引用的数据,直到构建完成。

术语“空权重”指的是权重系数(count == 0 且 values == nullptr)为零的 Weights

成员数据文档

◆ count

int64_t nvinfer1::Weights::count

数组中权重的数量。

◆ type

DataType nvinfer1::Weights::type

权重的类型。

◆ values

void const* nvinfer1::Weights::values

权重值,以连续数组形式存储。


此类文档从以下文件生成

  版权所有 © 2024 NVIDIA Corporation
  隐私政策 | 管理我的隐私 | 请勿出售或分享我的数据 | 服务条款 | 辅助功能 | 公司政策 | 产品安全 | 联系方式