先决条件#

支持的硬件#

RFdiffusion NIM 配置为在单个 GPU 上运行。RFdiffusion NIM 的最低 GPU 内存要求为 12GB。RFdiffusion NIM 应在满足此最低硬件要求且计算能力 >7.0 的任何 NVIDIA GPU 上运行。RFdiffusion NIM 还至少需要 15GB 的可用硬盘空间。

从 RFdiffusion NIM 2.0 版本开始，该模型使用 NVIDIA Warp 和 NVIDIA TensorRT 框架进行了优化，这使得该模型与非优化版本相比，运行速度提高了两倍。RFdiffusion NIM 为 A100、L40 和 H100 GPU 提供了预编译的 TensorRT 引擎；当在其他 GPU 上运行时，RFdiffusion NIM 将在运行时构建 TensorRT 引擎。

软件先决条件#

docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

示例输出

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 525.78.01    Driver Version: 525.78.01    CUDA Version: 12.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ...  Off  | 00000000:01:00.0 Off |                  N/A |
| 41%   30C    P8     1W / 260W |   2244MiB / 11264MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
+-----------------------------------------------------------------------------+

注意

有关枚举多 GPU 系统的更多信息，请参阅 NVIDIA Container Toolkit 的 GPU 枚举文档

NGC (NVIDIA GPU Cloud) 帐户#

  1. 在 NGC 上创建帐户

  2. 生成 API 密钥

  3. 使用您的 NGC API 登录 Docker（提示时输入密钥作为密码。）

docker login nvcr.io --username='$oauthtoken'
本页内容