TensorRT 10.8.0
IGpuAllocator 类参考

应用程序实现的类,用于控制 GPU 上的分配。更多...

#include <NvInferRuntime.h>

详细描述

应用程序实现的类,用于控制 GPU 上的分配。

警告
IGpuAllocator 对象的生命周期必须超过所有使用它的对象的生命周期。

此类旨在作为实现同步分配的分配器的基类。如果您想要异步分配的优势,您可以选择以下任一方式:

  • IGpuAllocator 派生您的类,并重写其所有四个虚拟方法以进行分配/释放,包括两个已弃用的方法。
  • IGpuAsyncAllocator 派生您的类,并重写其两个纯虚函数以进行分配/释放。

后一种风格更受青睐,因为它不会将代码绑定到已弃用的方法。

另请参阅
IGpuAsyncAllocator.

此类文档的生成源自以下文件:

  版权所有 © 2024 NVIDIA Corporation
  隐私政策 | 管理我的隐私 | 请勿出售或分享我的数据 | 服务条款 | 辅助功能 | 公司政策 | 产品安全 | 联系我们