先决条件
在使用 NVIDIA-Ingest 之前,请确保满足以下概述的硬件和软件先决条件。
硬件
GPU | 系列 | 内存 | GPU 数量(最少) |
---|---|---|---|
H100 | SXM 或 PCIe | 80GB | 1 |
A100 | SXM 或 PCIe | 80GB | 1 |
软件
- Linux 操作系统(推荐 Ubuntu 22.04 或更高版本)
- Docker
- Docker Compose
- CUDA 工具包 (NVIDIA 驱动 >=
535
, CUDA >=12.2
) - NVIDIA 容器工具包
[!Note] 您稍后安装 Python。 NVIDIA-Ingest 仅支持 Python 3.10 版本。