TensorRT 10.8.0
IProfiler 类参考

应用程序实现的用于性能分析的接口。 更多...

#include <NvInferRuntime.h>

详细描述

应用程序实现的用于性能分析的接口。

当此类添加到执行上下文时,对于每次调用 executeV2()/enqueueV3(),性能分析器将为每层调用一次。

当推理执行时间至关重要时,不建议在启用性能分析器的情况下运行推理,因为性能分析器可能会对执行时间产生负面影响。


此类文档的生成源自以下文件

  版权所有 © 2024 NVIDIA Corporation
  隐私政策 | 管理我的隐私 | 请勿出售或分享我的数据 | 服务条款 | 辅助功能 | 公司政策 | 产品安全 | 联系方式