其他资源

其他资源

资源	描述
用于手动 TensorRT 引擎构建的层构建器 API 文档：在 C++ 中创建网络定义 和 在 Python 中创建网络定义	当您需要在构建 TensorRT 引擎时获得最大灵活性时，手动层构建器 API 非常有用。层构建器 API 允许您在 TensorRT 中手动构建网络，并为您提供从模型加载权重的工具。使用层构建器 API 时，您的目标本质上是使用 TensorRT 逐层构建与您的训练模型相同的网络，然后从您的模型中加载权重。
ONNX-TensorRT GitHub	ONNX-TensorRT 集成是一个用于 ONNX 转换的简单高级接口，带有 Python 运行时。它对于使用 ONNX 路径进行 TensorRT 工作流程的早期原型设计非常有用。
Torch-TensorRT GitHub	Torch-TensorRT 将 TensorRT 的强大功能带到 PyTorch。只需一行代码，您就可以将推理延迟加速高达 5 倍（与 eager execution 相比）。
TensorRT 与 NVIDIA 的分析工具 NVIDIA Nsight Systems 集成。	这是进一步优化和调试您正在生产化的模型的绝佳下一步。
TensorRT 产品文档	ONNX、层构建器、C++ 和旧版 API 的产品文档页面。
TensorRT OSS GitHub	包含 OSS TensorRT 组件、示例应用程序和插件示例。
TensorRT 开发者页面	包含下载、帖子和快速参考代码示例。