IGpuAsyncAllocator 类参考

应用程序实现的类，用于控制 GPU 上的异步（流有序）内存分配。更多...

#include <NvInferRuntime.h>

详细描述

应用程序实现的类，用于控制 GPU 上的异步（流有序）内存分配。

警告

IGpuAsyncAllocator 对象的生命周期必须超过所有使用它的对象的生命周期。

从 IGpuAsyncAllocator 而不是 IGpuAllocator 派生的优势在于，您只需要覆盖两个方法：allocateAsync() 和 deallocateAsync() 即可实现具有异步功能的分配器，而从 IGpuAllocator 派生则需要覆盖四个方法，包括两个已弃用的方法。

另请参阅

IGpuAllocator

---

此类文档从以下文件生成

• NvInferRuntime.h