系统要求#
自托管容器#
nvidia-docker2 需要安装
GPU
VRP : Ampere (A100) 或 Hopper (H100) 架构。
LP/MIP : Hopper (H100 SXM) 架构。
注意
在 Windows 中,容器只能通过 WSL2 运行。
Kubernetes 上的自托管容器#
CuOpt 可以使用 Helm chart 部署在任何 Kubernetes 集群上,该集群具有配置正确的、配备受支持的 NVIDIA GPU 的计算节点。计算节点的系统要求与上面列出的相同。集群可以是单节点、“一体化”集群,也可以是多节点集群。
构建单节点集群的一个选项是使用 NVIDIA 的 云原生堆栈,可在 github 上 此处 获取。
查看您的 CSP 文档,了解有关使用 NVIDIA GPU 部署 Kubernetes 集群的信息。
有关 Kubernetes 的更多 NVIDIA 信息,请访问 此处。
有关使用 cuOpt Helm chart 的说明,请参阅自托管服务器概述。
自托管的瘦客户端#
操作系统 - Ubuntu
cpu - x86
Python - 3.10.x
托管服务#
NVIDIA 将提供对 cuOpt 服务的访问权限,用户只需满足瘦客户端的系统要求即可
托管服务的瘦客户端#
操作系统 - Ubuntu
cpu - x86
Python - 3.10.x