安装#

NVIDIA® DeepStream 软件开发工具包 (SDK) 是一个加速 AI 框架，用于构建智能视频分析 (IVA) 管道。DeepStream 在 NVIDIA® T4、NVIDIA® Hopper、NVIDIA® Ampere、NVIDIA® ADA 和 NVIDIA® Jetson AGX Orin™、NVIDIA® Jetson Orin™ NX、NVIDIA® Jetson Orin™ Nano 等平台上运行。对于 dGPU 平台，强烈建议企业级 GPU 用于预计 24x7 全天候运行的部署。游戏 GPU 并非设计用于在此类环境中运行。

Jetson 设置#

本节介绍如何在安装 DeepStream SDK 之前准备 Jetson 设备。

注意

本地安装 DeepStream SDK 的步骤假设 ~/.local/bin/ 已添加到 ~/.bashrc 或 ~/.profile

安装 Jetson SDK 组件#

从 https://developer.nvidia.com/embedded/jetpack 下载 NVIDIA SDK Manager。您将使用它来安装 JetPack 6.1 GA（对应于 L4T 36.4 版本）

  • NVIDIA SDK Manager 是一个图形应用程序，用于刷写和安装 JetPack 软件包。

  • 刷写过程大约需要 10-30 分钟，具体取决于主机系统。

注意

如果您使用的是 Jetson Orin nano 开发者套件，您可以从 https://developer.nvidia.com/embedded/jetpack 下载 SD 卡映像。这随附 CUDA、TensorRT 和 cuDNN。

前提条件#

注意

有时在运行 gstreamer 管道或示例应用程序时，用户可能会遇到错误：GLib (gthread-posix.c): Unexpected error from C library during 'pthread_setspecific': Invalid argument.  Aborting. 问题是由于 glib 2.0-2.72 版本中的错误引起的，该版本默认随 ubuntu22.04 一起提供。该问题已在 glib2.76 中解决，需要安装它来修复该问题 (GNOME/glib)。

将 glib 迁移到更新版本#

为了迁移到更新的 glib 版本（例如 2.76.6），请按照以下步骤操作

  1. 前提条件：安装以下软件包

    pip3 install meson
pip3 install ninja

注意

在裸机上，使用 sudo pip3 install meson 和 sudo pip3 install ninja 获取 root 权限

  1. 编译和安装步骤

    $ git clone https://github.com/GNOME/glib.git
$ cd glib
$ git checkout <glib-version-branch>
# e.g. 2.76.6
$ meson build --prefix=/usr
$ ninja -C build/
$ cd build/
$ ninja install

注意

在裸机上，使用 sudo ninja install 以 root 权限安装

  1. 检查并确认新安装的 glib 版本

pkg-config --modversion glib-2.0

安装依赖项#

安装前提软件包#

输入以下命令以安装前提软件包

$ sudo apt install \
libssl3 \
libssl-dev \
libgstreamer1.0-0 \
gstreamer1.0-tools \
gstreamer1.0-plugins-good \
gstreamer1.0-plugins-bad \
gstreamer1.0-plugins-ugly \
gstreamer1.0-libav \
libgstreamer-plugins-base1.0-dev \
libgstrtspserver-1.0-0 \
libjansson4 \
libyaml-cpp-dev

注意

有时，使用 RTSP 流，应用程序会在到达 EOS 时卡住。这是由于 rtpjitterbuffer 组件中的问题造成的。为了解决此问题，在 /opt/nvidia/deepstream/deepstream/ 中提供了一个脚本“update_rtpmanager.sh”，其中包含更新 gstrtpmanager 库所需的详细信息。一旦安装了上述软件包作为前提条件，就应该执行该脚本。

安装 librdkafka（以启用消息代理的 Kafka 协议适配器）#

  1. 从 GitHub 克隆 librdkafka 存储库

    $ git clone https://github.com/confluentinc/librdkafka.git

  2. 配置并构建库

    $ cd librdkafka
$ git checkout tags/v2.2.0
$ ./configure --enable-ssl
$ make
$ sudo make install

  3. 将生成的库复制到 deepstream 目录

    $ sudo mkdir -p /opt/nvidia/deepstream/deepstream/lib
$ sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream/lib
$ sudo ldconfig

安装最新的 NVIDIA BSP 软件包#

安装 JetPack 6.1 GA 将确保安装最新的 NVIDIA BSP 软件包。

安装 DeepStream SDK#

  • 方法 1：使用 SDK Manager

    从 Additional SDKs 部分选择 DeepStreamSDK 以及 JP 6.1 GA 软件组件进行安装。

  • 方法 2：使用 DeepStream tar 包：https://catalog.ngc.nvidia.com/orgs/nvidia/resources/deepstream

    1. 将 DeepStream 7.1 Jetson tar 包 deepstream_sdk_v7.1.0_jetson.tbz2 下载到 Jetson 设备。

    2. 输入以下命令以解压和安装 DeepStream SDK

      $  sudo tar -xvf deepstream_sdk_v7.1.0_jetson.tbz2 -C /
$ cd /opt/nvidia/deepstream/deepstream-7.1
$ sudo ./install.sh
$ sudo ldconfig

  • 方法 3：使用 DeepStream Debian 包：https://catalog.ngc.nvidia.com/orgs/nvidia/resources/deepstream

    将 DeepStream 7.1 Jetson Debian 包 deepstream-7.1_7.1.0-1_arm64.deb 下载到 Jetson 设备。输入以下命令

    $ sudo apt-get install ./deepstream-7.1_7.1.0-1_arm64.deb

  • 方法 4：使用 Docker 容器

    DeepStream docker 容器在 NGC 上可用。请参阅 Docker 容器 部分，了解有关使用 docker 容器开发和部署 DeepStream 的信息。

注意

验证：DeepStream SDK 安装成功后，请参阅 预期输出 (deepstream-app) 以了解预期输出。

Ubuntu 的 dGPU 设置#

本节介绍如何在安装 DeepStream SDK 之前准备带有 NVIDIA dGPU 设备的 Ubuntu x86_64 系统。

注意

本地安装 DeepStream SDK 的步骤假设 ~/.local/bin/ 已添加到 ~/.bashrc 或 ~/.profile

注意

本文档使用术语 dGPU（“独立 GPU”）来指代 NVIDIA GPU 扩展卡产品，例如 NVIDIA Tesla® T4、NVIDIA® Hopper、NVIDIA® Ampere、NVIDIA® ADA、NVIDIA GeForce® RTX 2080、NVIDIA GeForce® RTX 3080、NVIDIA GeForce® RTX 4080 和 GeForce®/NVIDIA RTX/QUADRO。此版本的 DeepStream SDK 在 NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）以及 NVIDIA TensorRT™ 10.3.0.26 及更高版本支持的 GPU 上运行。

前提条件#

您必须安装以下组件

  • Ubuntu 22.04

  • GStreamer 1.20.3

  • NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）

  • CUDA 12.6

  • TensorRT 10.3.0.26

移除所有之前的 DeepStream 安装#

输入以下命令以移除所有之前的 DeepStream 3.0 或更早版本安装

$ sudo rm -rf /usr/local/deepstream /usr/lib/x86_64-linux-gnu/gstreamer-1.0/libgstnv* /usr/bin/deepstream* /usr/lib/x86_64-linux-gnu/gstreamer-1.0/libnvdsgst*
/usr/lib/x86_64-linux-gnu/gstreamer-1.0/deepstream*
/opt/nvidia/deepstream/deepstream*
$ sudo rm -rf /usr/lib/x86_64-linux-gnu/libv41/plugins/libcuvidv4l2_plugin.so

要移除 DeepStream 4.0 或更高版本安装

  1. 打开 /opt/nvidia/deepstream/deepstream/ 中的 uninstall.sh 文件

  2. 以 sudo ./uninstall.sh 身份运行以下脚本

注意

有时在运行 gstreamer 管道或示例应用程序时，用户可能会遇到错误：GLib (gthread-posix.c): Unexpected error from C library during 'pthread_setspecific': Invalid argument.  Aborting. 问题是由于 glib 2.0-2.72 版本中的错误引起的，该版本默认随 ubuntu22.04 一起提供。该问题已在 glib2.76 中解决，需要安装它来修复该问题 (GNOME/glib)。

将 glib 迁移到更新版本#

为了迁移到更新的 glib 版本（例如 2.76.6），请按照以下步骤操作

  1. 前提条件：安装以下软件包

    pip3 install meson
pip3 install ninja

注意

在裸机 x86 上，使用 sudo pip3 install meson 和 sudo pip3 install ninja 获取 root 权限

  1. 编译和安装步骤

    $ git clone https://github.com/GNOME/glib.git
$ cd glib
$ git checkout <glib-version-branch>
# e.g. 2.76.6
$ meson build --prefix=/usr
$ ninja -C build/
$ cd build/
$ ninja install

注意

在裸机 x86 上，使用 sudo ninja install 以 root 权限安装

  1. 检查并确认新安装的 glib 版本

pkg-config --modversion glib-2.0

安装依赖项#

安装前提软件包#

输入以下命令以安装安装 DeepStream SDK 之前所需的软件包

$ sudo apt install \
libssl3 \
libssl-dev \
libgles2-mesa-dev \
libgstreamer1.0-0 \
gstreamer1.0-tools \
gstreamer1.0-plugins-good \
gstreamer1.0-plugins-bad \
gstreamer1.0-plugins-ugly \
gstreamer1.0-libav \
libgstreamer-plugins-base1.0-dev \
libgstrtspserver-1.0-0 \
libjansson4 \
libyaml-cpp-dev \
libjsoncpp-dev \
protobuf-compiler \
gcc \
make \
git \
python3

注意

有时，使用 RTSP 流，应用程序会在到达 EOS 时卡住。这是由于 rtpjitterbuffer 组件中的问题造成的。为了解决此问题，在 /opt/nvidia/deepstream/deepstream/ 中提供了一个脚本“update_rtpmanager.sh”，其中包含更新 gstrtpmanager 库所需的详细信息。一旦安装了上述软件包作为前提条件，就应该执行该脚本。

安装 CUDA Toolkit 12.6#

运行以下命令（参考，https://developer.nvidia.com/cuda-downloads）

$ sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub
$ sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /"
$ sudo apt-get update
$ sudo apt-get install cuda-toolkit-12-6

注意

如果您在 CUDA 安装过程中观察到以下错误，请参阅 https://developer.nvidia.com/blog/updating-the-cuda-linux-gpg-repository-key/。

W: GPG error: https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64 InRelease: The following signatures couldn't be verified because the public key is not available: NO_PUBKEY A4B469963BF863CC
E: The repository 'https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64 InRelease' is no longer signed.

安装 NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）#

  • 从 NVIDIA Unix 驱动程序页面下载并安装 NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）：https://www.nvidia.cn/Download/driverResults.aspx/222416/en-us/

  • 运行以下命令

    For Data Center GPUs:
$ chmod 755 NVIDIA-Linux-x86_64-535.183.06.run
$ sudo ./NVIDIA-Linux-x86_64-535.183.06.run --no-cc-version-check
For RTX GPUs:
$ chmod 755 NVIDIA-Linux-x86_64-560.35.03.run
$ sudo ./NVIDIA-Linux-x86_64-560.35.03.run --no-cc-version-check

注意

确保在安装 nvidia 驱动程序时停止 gdm、lightdm 或 Xorg 服务

使用命令：sudo service gdm stop sudo service lightdm stop sudo pkill -9 Xorg

安装 TensorRT 10.3.0.26#

运行以下命令以安装 TensorRT 10.3.0.26

version="10.3.0.26-1+cuda12.5"
sudo apt-get install libnvinfer-dev=${version} libnvinfer-dispatch-dev=${version} libnvinfer-dispatch10=${version} libnvinfer-headers-dev=${version}
libnvinfer-headers-plugin-dev=${version} libnvinfer-lean-dev=${version} libnvinfer-lean10=${version} libnvinfer-plugin-dev=${version} libnvinfer-plugin10=${version}
libnvinfer-vc-plugin-dev=${version} libnvinfer-vc-plugin10=${version} libnvinfer10=${version} libnvonnxparsers-dev=${version} libnvonnxparsers10=${version} tensorrt-dev=${version}

注意

安装 librdkafka（以启用消息代理的 Kafka 协议适配器）#

  1. 从 GitHub 克隆 librdkafka 存储库

    $ git clone https://github.com/confluentinc/librdkafka.git

  2. 配置并构建库

    $ cd librdkafka
$ git checkout tags/v2.2.0
$ ./configure --enable-ssl
$ make
$ sudo make install

  3. 将生成的库复制到 deepstream 目录

    $ sudo mkdir -p /opt/nvidia/deepstream/deepstream/lib
$ sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream/lib
$ sudo ldconfig

安装 DeepStream SDK#

  • 方法 1：使用 DeepStream Debian 包

    下载 DeepStream 7.1 dGPU Debian 包 deepstream-7.1_7.1.0-1_amd64.deb : https://catalog.ngc.nvidia.com/orgs/nvidia/resources/deepstream

    输入命令

    $ sudo apt-get install ./deepstream-7.1_7.1.0-1_amd64.deb

  • 方法 2：下载 DeepStream tar 包：https://catalog.ngc.nvidia.com/orgs/nvidia/resources/deepstream

    导航到下载的 DeepStream 包的位置以解压和安装 DeepStream SDK

    $ sudo tar -xvf deepstream_sdk_v7.1.0_x86_64.tbz2 -C /
$ cd /opt/nvidia/deepstream/deepstream-7.1/
$ sudo ./install.sh
$ sudo ldconfig

  • 方法 3：使用 Docker 容器

    DeepStream docker 容器在 NGC 上可用。请参阅 Docker 容器 部分，了解有关使用 docker 容器开发和部署 DeepStream 的信息。

注意

验证：DeepStream SDK 安装成功后，请参阅 预期输出 (deepstream-app) 以了解预期输出。

Ubuntu 的 IGX/dGPU on ARM 设置（Alpha）#

本节介绍如何在安装 DeepStream SDK 之前准备带有 NVIDIA dGPU 设备的 NVIDIA IGX 系统。

注意

本文档使用术语 dGPU（“独立 GPU”）来指代 NVIDIA GPU 扩展卡产品，例如 NVIDIA RTX A6000 和 NVIDIA RTX 6000 Ada。此版本的 DeepStream SDK 已通过 NVIDIA 驱动程序 535.183.01 和 NVIDIA TensorRT™ 10.3.0.26 验证。

您必须安装以下组件

  • 请参阅 IGX-Software Install Guide 以安装 Base-OS：IGX-Software Guide

  • Docker

  • Nvidia Container Toolkit

在 IGX/dGPU 上运行 ARM SBSA docker#

  1. 拉取 DeepStream Triton 推理服务器 docker

    docker pull nvcr.io/nvidia/deepstream:7.1-triton-arm-sbsa

  2. 启动 docker

    sudo docker run -it --rm --runtime=nvidia --network=host -e NVIDIA_DRIVER_CAPABILITIES=compute,utility,video,graphics --gpus all --privileged -e DISPLAY=:0 -v /tmp/.X11-unix:/tmp/.X11-unix -v /etc/X11:/etc/X11 nvcr.io/nvidia/deepstream:7.1-triton-arm-sbsa

视频子系统的已知限制和解决方法#

DeepStream 7.1 默认情况下在计算堆栈和 docker 容器中支持 Cuda-12.6。数据中心 GPU 当前仅受驱动程序 535.183.06 支持，该驱动程序默认附带 Cuda-12.2 驱动程序。

即使 CUDA 支持与较新运行时版本（如 Cuda-12.6）的向前兼容性，但其他组件（如 Cuda-GL Interop）不支持向前兼容性，而显示接收器需要这些组件才能工作。因此，为了使其他组件（如 Cuda-GL Interop）工作，Cuda-12.2 工具包也必须与 docker 容器内的 Cuda-12.6 运行时一起安装。

对于需要使用/启用显示输出的用户，可以在 docker 内部使用以下步骤来实现此解决方法

  1. 如上一步所示启动 docker。

  2. 安装 cuda-toolkit-12-2。请按照 这些说明 进行操作

  3. 请注意：从上面链接中提到的 Cuda-12 安装说明中，请替换：sudo apt-get -y install cuda 为 sudo apt-get -y install cuda-toolkit-12-2

  4. 更改默认 CUDA 版本以指向 docker 内部的 Cuda-12.2，使用 update alternatives：update-alternatives --set cuda /usr/local/cuda-12.2

  5. 要检查当前在 docker 内部使用的 CUDA 版本，请运行：update-alternatives --display cuda

Ubuntu 的 dGPU on ARM 设置（Alpha）#

本节介绍如何在安装 DeepStream SDK 之前准备带有 NVIDIA dGPU 设备的 Ubuntu aarch64 系统。

注意

本文档使用术语 dGPU（“独立 GPU”）来指代 NVIDIA GPU 扩展卡产品，例如 NVIDIA Tesla T4、NVIDIA Hopper、NVIDIA Ampere、NVIDIA® ADA、NVIDIA GeForce GTX 1080、NVIDIA GeForce RTX 2080、NVIDIA GeForce RTX 3080、NVIDIA GeForce RTX 4080 和 GeForce/NVIDIA RTX/QUADRO。此版本的 DeepStream SDK 在 NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）以及 NVIDIA TensorRT™ 10.3.0.26 支持的 GPU 上运行。

您必须安装以下组件

  • NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）

  • Docker

  • Nvidia Container Toolkit

  • 请注意：GH200 已通过 Nvidia Driver 550 使用 Base-OS 进行了验证

安装 NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）#

  • 从 NVIDIA Unix 驱动程序页面下载并安装 NVIDIA 驱动程序 535.183.06（用于数据中心 GPU）和 560.35.03（用于 RTX GPU）：https://www.nvidia.com/en-us/drivers/unix/linux-aarch64-archive/

  • 运行以下命令

    For Data Center GPUs:
$ chmod 755 NVIDIA-Linux-aarch64-535.183.06.run
$ sudo ./NVIDIA-Linux-aarch64-535.183.06.run --no-cc-version-check
For RTX GPUs:
$ chmod 755 NVIDIA-Linux-aarch64-560.35.03.run
$ sudo ./NVIDIA-Linux-aarch64-560.35.03.run --no-cc-version-check

注意

确保在安装 Nvidia 驱动程序时停止 gdm、lightdm 或 Xorg 服务

使用命令：sudo service gdm stop sudo service lightdm stop sudo pkill -9 Xorg

在 ARM Docker (SBSA) 上运行 dGPU#

  1. 拉取 DeepStream Triton 推理服务器 docker

    docker pull nvcr.io/nvidia/deepstream:7.1-triton-arm-sbsa

  2. 启动 docker

    sudo docker run -it --rm --runtime=nvidia --network=host -e NVIDIA_DRIVER_CAPABILITIES=compute,utility,video,graphics --gpus all --privileged -e DISPLAY=:0 -v /tmp/.X11-unix:/tmp/.X11-unix -v /etc/X11:/etc/X11 nvcr.io/nvidia/deepstream:7.1-triton-arm-sbsa

视频子系统的已知限制和解决方法#

DeepStream 7.1 默认情况下在计算堆栈和 docker 容器中支持 Cuda-12.6。数据中心 GPU 当前仅受驱动程序 535.183.06 支持，该驱动程序默认附带 Cuda-12.2 驱动程序。

即使 CUDA 支持与较新运行时版本（如 Cuda-12.6）的向前兼容性，但其他组件（如 Cuda-GL Interop）不支持向前兼容性，而显示接收器需要这些组件才能工作。因此，为了使其他组件（如 Cuda-GL Interop）工作，Cuda-12.2 工具包也必须与 docker 容器内部的默认 Cuda-12.6 运行时一起安装。

对于需要使用/启用显示输出的用户，可以在 docker 内部使用以下步骤来实现此解决方法

  1. 如上一步所示启动 docker。

  2. 安装 cuda-toolkit-12-2。请按照 这些说明 进行操作

  3. 请注意：从上面链接中提到的 Cuda-12 安装说明中，请替换：sudo apt-get -y install cuda 为 sudo apt-get -y install cuda-toolkit-12-2

  4. 更改默认 CUDA 版本以指向 docker 内部的 Cuda-12.2，使用 update alternatives：update-alternatives --set cuda /usr/local/cuda-12.2

  5. 要检查当前在 docker 内部使用的 CUDA 版本，请运行：update-alternatives --display cuda

注意

对于 dGPU 驱动程序 550 也存在类似的限制，该驱动程序默认附带 Cuda-12.4 和需要使用/启用显示的基于 Cuda-12.6 的 docker 容器。
对于需要在使用 dGPU 驱动程序 550 的系统上使用/启用显示的用户，请按照上述类似步骤在容器内启用 cuda-toolkit-12-4 以及 Cuda-12.6。
将步骤编号 2 替换为 此处找到的 cuda-toolkit-12-4 安装说明

RedHat Enterprise Linux (RHEL) 的 dGPU 设置#

此版本不支持 RHEL 的 DeepStream。

平台和操作系统兼容性#

下表提供有关当前和早期版本的 DeepStream 中的平台和操作系统兼容性的信息。

Jetson 型号平台和操作系统兼容性#

DS 版本

DS 6.1

DS 6.1.1

DS 6.2

DS 6.3

DS 6.4

DS 7.0

DS 7.1

Jetson 平台

AGX Xavier, Jetson NX, Jetson Orin

AGX Xavier, Jetson NX, Jetson Orin

Xavier AGX , Xavier NX, AGX Orin, Orin NX

Xavier AGX , Xavier NX, AGX Orin, Orin NX, Orin nano

AGX Orin, Orin NX, Orin nano

AGX Orin, Orin NX, Orin nano

AGX Orin, Orin NX, Orin nano

操作系统

L4T Ubuntu 20.04

L4T Ubuntu 20.04

L4T Ubuntu 20.04

L4T Ubuntu 20.04

L4T Ubuntu 22.04

L4T Ubuntu 22.04

L4T Ubuntu 22.04

JetPack 版本

5.0.1 DP

5.0.2 GA Revision 1

5.1 GA

5.1.2 GA

6.0 DP

6.0 GA

6.1 GA

L4T 版本

34.1.1

35.1

35.2.1

35.4

36.2

36.3

36.4

CUDA 版本

CUDA 11.4

CUDA 11.4

CUDA 11.4

CUDA 11.4

CUDA 12.2

CUDA 12.2

CUDA 12.6

cuDNN 版本

cuDNN 8.3.2.49

cuDNN 8.4.1.50+

cuDNN 8.6.0.166+

cuDNN 8.6.0.166+

cuDNN 8.9.4.25+

cuDNN 8.9.4.25+

cuDNN 9.3.0

TensorRT 版本

TRT 8.4.0.11

TRT 8.4.1.5

TRT 8.5.2.2

TRT 8.5.2.2

TRT 8.6.2.3

TRT 8.6.2.3

TRT 10.3.0.31

OpenCV 版本

OpenCV 4.2.0

OpenCV 4.2.0

OpenCV 4.2.0

OpenCV 4.5.4

OpenCV 4.8.0

OpenCV 4.8.0

OpenCV 4.8.0

Vision­Works

NA

NA

NA

NA

NA

NA

NA

GStreamer

GStreamer 1.16.2

GStreamer 1.16.2

GStreamer 1.16.3

GStreamer 1.16.3

GStreamer 1.20.3

GStreamer 1.20.3

GStreamer 1.20.3

Docker 镜像

deepstream-l4t:6.1

deepstream-l4t:6.1.1

deepstream-l4t:6.2

deepstream-l4t:6.3

deepstream:6.4

deepstream:7.0

deepstream:7.1
dGPU 型号平台和操作系统兼容性#

DS 版本

DS 6.1

DS 6.1.1

DS 6.2

DS 6.3

DS 6.4

DS 7.0

DS 7.1

GPU 平台

T4, V100, A2, A10, A30, A100, RTX Ampere (Ax000/RTX30x0)

T4, V100, A2, A10, A30, A100, RTX Ampere (Ax000/RTX30x0)

T4, V100, A2, A10, A30, A100, RTX Ampere (Ax000/RTX30x0), Hopper, ADA

T4, V100, A2, A10, A30, A100, RTX Ampere (Ax000/RTX30x0), Hopper, ADA

T4, V100, A2, A10, A30, A100, RTX Ampere (Ax000/RTX30x0), Hopper, ADA

T4, V100, A2, A10, A30, A100, RTX Ampere (Ax000/RTX30x0), Hopper, ADA

T4, A2, A10, A30, A100, RTX Ampere (Ax000/RTX30x0), Hopper, ADA

操作系统

Ubuntu 20.04

Ubuntu 20.04

Ubuntu 20.04

Ubuntu 20.04

Ubuntu 22.04

Ubuntu 22.04

Ubuntu 22.04

GCC

GCC 9.4.0

GCC 9.4.0

GCC 9.4.0

GCC 9.4.0

GCC 11.4.0

GCC 11.4.0

GCC 11.4.0

CUDA 版本

CUDA 11.6.1

CUDA 11.7.1

CUDA 11.8

CUDA 12.1

CUDA 12.2

CUDA 12.2

CUDA 12.6

cuDNN 版本

cuDNN 8.4.0.27

cuDNN 8.4.1.50+

cuDNN 8.7.0.84-1+

cuDNN 8.8.1.3-1+

cuDNN 8.9.4.25-1+

cuDNN 8.9.6.50-1+

cuDNN 9.3.0

TRT 版本

TRT 8.2.5.1

TRT 8.4.1.5

TRT 8.5.2.2

TRT 8.5.3.1

TRT 8.6.1.6

TRT 8.6.1.6

TRT 10.3.0.26

显示驱动程序

R510.47.03

R515.65.01

R525.85.12

R525.125.06

R535.104.12

R535.161.08

R535.183.06(数据中心 GPU), R560.35.03(RTX GPU)

VideoSDK 版本

SDK 9.1

SDK 9.1

SDK 9.1

SDK 9.1

SDK 9.1

SDK 9.1

SDK 9.1

OFSDK 版本

2.0.23

2.0.23

2.0.23

2.0.23

2.0.23

2.0.23

2.0.23

GStreamer 版本

GStreamer 1.16.2

GStreamer 1.16.2

GStreamer 1.16.3

GStreamer 1.16.3

GStreamer 1.20.3

GStreamer 1.20.3

GStreamer 1.20.3

OpenCV 版本

OpenCV 4.2.0

OpenCV 4.2.0

OpenCV 4.2.0

OpenCV 4.2.0

OpenCV 4.5.4

OpenCV 4.5.4

OpenCV 4.5.4

Docker 镜像

deepstream:6.1

deepstream:6.1.1

deepstream:6.2

deepstream:6.3

deepstream:6.4

deepstream:7.0

deepstream:7.1

NVAIE 版本

NA

NA

NVAIE-3.x

NVAIE-3.x

NVAIE-4.x

NA

NA

注意

默认情况下，OpenCV 已弃用。但是，可以通过在这些组件的 Makefile 中设置 WITH_OPENCV=1 在插件（如 nvinfer (nvdsinfer) 和 dsexample (gst-dsexample)）中启用 OpenCV。请参阅组件 README 以获取更多说明。

NA：“不适用”

DeepStream 7.1 附带 ARM SBSA 平台上的 Alpha 支持。此支持当前由 SBSA triton docker 启用。SBSA 类别当前支持 IGX/dGPU、GH100 和 GH200。

在本页上