先决条件#

在 3.0 版本中添加。

在 RHEL 上运行并使用 KVM 虚拟化的 NVIDIA AI Enterprise 具有以下先决条件

  • 至少一个 NVIDIA 数据中心 GPU,位于一个 NVIDIA AI Enterprise 兼容的 NVIDIA 认证系统中。

    • 建议使用 A100 进行训练,使用 A30 进行推理。

  • NVIDIA AI Enterprise 许可证

  • Red Hat Enterprise Linux 9 ISO

  • NVIDIA AI Enterprise 软件

    • NVIDIA AI Enterprise 驱动程序

您可以利用 NVIDIA 系统管理界面 (NV-SMI) 管理和监控工具进行测试和基准测试。

以下服务器配置详情被认为是最佳实践

  • 超线程 - 已启用

  • 电源设置或系统配置文件 - 高性能

  • CPU 性能(如果适用)- 企业级或高吞吐量

  • 4-GB 以上的内存映射 I/O - 已启用(如果适用)

  • SR-IOV 已启用

  • IOMMU 已启用

  • 安全启动已禁用

有关启用 SR-IOV 和 IOMMU 的说明,请参考此处

您的系统满足以下硬件要求以用作虚拟化主机

  • 您的主机机器架构支持 KVM 虚拟化

  • 以下是可用的最低系统资源

    • 主机需要 6 GB 可用磁盘空间,以及每个计划的虚拟机额外需要 6 GB 空间。

    • 主机需要 2 GB 内存,以及每个计划的虚拟机额外需要 2 GB 内存。

有关在 NVIDIA AI Enterprise 上部署和管理 RHEL 与 KVM 的补充信息,请参考最新的 NVIDIA vGPU 发行说明