升级 TensorRT#

仅当当前安装的 TensorRT 版本等于或新于最近两个公开 GA 版本时，才支持升级到最新版本的 TensorRT。

如果要从不受支持的版本升级，您应该逐步升级，直到达到最新版本的 TensorRT，或者卸载并重新安装最新版本。如果您安装了 TensorRT 的 EA 版本，您应该首先升级到相应的 GA 版本。

从 TensorRT 10.x.x 升级到 TensorRT 10.8.x#

从 TensorRT 10.x.x 升级到 TensorRT 10.8.x 时，请确保您熟悉以下内容。

使用 Debian 文件

  • Debian 软件包旨在升级您的开发环境，而不会删除其他软件包和程序可能依赖的任何运行时组件。如果您使用 Debian 软件包安装了 TensorRT 10.x.x 并升级到 TensorRT 10.8.x，您的库（在次要版本内）、示例和头文件都将更新为 TensorRT 10.8.x 内容。

  • 在 TensorRT 主要版本之间升级时，例如从 TensorRT 9.x 升级到 TensorRT 10.x，来自两个主要版本的运行时软件包将共存而不会被替换。只有开发软件包（C++ 头文件、.a 文件、没有版本的 .so 文件）将在升级到新的 TensorRT 主要版本时被替换。

  • 下载新的本地仓库后，使用 apt-get 将您的系统升级到新版本的 TensorRT。

    os="ubuntuxx04"
tag="10.x.x-cuda-x.x"
sudo dpkg -i nv-tensorrt-local-repo-${os}-${tag}_1.0-1_amd64.deb
sudo cp /var/nv-tensorrt-local-repo-${os}-${tag}/*-keyring.gpg /usr/share/keyrings

sudo apt-get update
sudo apt-get install tensorrt

  • 升级后，请确保您有一个目录 /usr/src/tensorrt，并且 dpkg-query -W tensorrt 命令显示的相应版本是 10.x.x.x。

  • 如果在系统上安装 Debian 软件包，而之前安装的版本来自 tar 文件，请注意 Debian 软件包不会删除先前安装的文件。最好在安装新版本之前删除旧版本，以避免针对过时的库进行编译，除非需要并行安装。

使用 RPM 文件

  • RPM 软件包旨在升级您的开发环境，而不会删除其他软件包和程序可能依赖的任何运行时组件。如果您通过 RPM 软件包安装了 TensorRT 10.x.x 并想升级到 TensorRT 10.8.x，您的库（在次要版本内）、示例和头文件都将更新为 TensorRT 10.8.x 内容。

  • 在 TensorRT 主要版本之间升级时，例如从 TensorRT 9.x 升级到 TensorRT 10.x，来自两个主要版本的运行时软件包将共存而不会被替换。只有开发软件包（C++ 头文件、.a 文件、没有版本的 .so 文件）将在升级到新的 TensorRT 主要版本时被替换。

  • 下载新的本地仓库后，运行以下命令

    os="rhelx"
tag="10.x.x-cuda-x.x"
sudo rpm -Uvh nv-tensorrt-local-repo-${os}-${tag}-1.0-1.x86_64.rpm
sudo yum clean expire-cache
sudo yum install tensorrt

  • 升级后，请确保您看到 /usr/src/tensorrt 目录，并且 rpm -q tensorrt 命令显示的相应版本是 10.x.x.x。

使用 tar 文件

  • 如果您使用 tar 文件安装方法进行升级，请将 TensorRT 安装到新位置。Tar 文件安装可以支持多种用例，包括并行拥有 TensorRT 10.x.x 的完整安装（包含头文件和库）和 TensorRT 10.8.x 的完整安装。如果目的是让新版本的 TensorRT 替换旧版本，则应在新版本验证后删除旧版本。

  • 对于新的 TensorRT tar 文件安装，请更新环境变量 LD_LIBRARY_PATH 以指向包含 TensorRT lib 目录的绝对路径。

  • 如果在系统上安装 tar 文件，而之前安装的版本来自 Debian 软件包，请注意 tar 文件安装不会删除先前安装的软件包。除非需要并行安装，否则最好删除先前安装的 libnvinfer10、libnvinfer-dev、libnvinfer-samples 和其他相关软件包，以避免混淆。

使用 zip 文件

  • 如果您使用 zip 文件安装方法进行升级，请将 TensorRT 安装到新位置。Zip 文件安装可以支持多种用例，包括并行拥有 TensorRT 10.x.x 的完整安装（包含头文件和库）和 TensorRT 10.8.x 的完整安装。如果目的是让新版本的 TensorRT 替换旧版本，则应在新版本验证后删除旧版本。

  • 解压缩新版本的 TensorRT 后，您必须更新 PATH 环境变量以指向新的安装位置，或将 DLL 文件复制到您之前安装 TensorRT 库的位置。有关设置 PATH 环境变量的更多信息，请参阅 Zip 文件安装。

在本页中