先决条件#
在 3.0 版本中添加。
在 RHEL 上运行并使用 KVM 虚拟化的 NVIDIA AI Enterprise 具有以下先决条件
至少一个 NVIDIA 数据中心 GPU,位于一个 NVIDIA AI Enterprise 兼容的 NVIDIA 认证系统中。
建议使用 A100 进行训练,使用 A30 进行推理。
NVIDIA AI Enterprise 许可证
Red Hat Enterprise Linux 9 ISO
NVIDIA AI Enterprise 软件
NVIDIA AI Enterprise 驱动程序
您可以利用 NVIDIA 系统管理界面 (NV-SMI) 管理和监控工具进行测试和基准测试。
以下服务器配置详情被认为是最佳实践
超线程 - 已启用
电源设置或系统配置文件 - 高性能
CPU 性能(如果适用)- 企业级或高吞吐量
4-GB 以上的内存映射 I/O - 已启用(如果适用)
SR-IOV 已启用
IOMMU 已启用
安全启动已禁用
有关启用 SR-IOV 和 IOMMU 的说明,请参考此处。
您的系统满足以下硬件要求以用作虚拟化主机
您的主机机器架构支持 KVM 虚拟化。
以下是可用的最低系统资源
主机需要 6 GB 可用磁盘空间,以及每个计划的虚拟机额外需要 6 GB 空间。
主机需要 2 GB 内存,以及每个计划的虚拟机额外需要 2 GB 内存。
有关在 NVIDIA AI Enterprise 上部署和管理 RHEL 与 KVM 的补充信息,请参考最新的 NVIDIA vGPU 发行说明。