NVIDIA AI Enterprise 软件#

NVIDIA vGPU 架构#

下图说明了启用 NVIDIA 虚拟 GPU 环境的高级架构。这里，服务器中有 GPU，并且 NVIDIA AI Enterprise 主机软件 (VIB) 安装在主机服务器上。该软件使多个虚拟机能够共享单个 GPU，或者如果服务器中有多个 GPU，则可以将它们聚合，以便单个虚拟机可以访问多个 GPU。物理 NVIDIA GPU 可以支持多个虚拟 GPU (vGPU)，并在运行在 hypervisor 中的 NVIDIA AI Enterprise 主机软件的控制下直接分配给客户虚拟机。客户虚拟机以与 hypervisor 传递的物理 GPU 相同的方式使用 NVIDIA vGPU。在虚拟机本身中，安装了 vGPU 驱动程序，这些驱动程序支持可用的不同许可级别。

_images/components-03.png

NVIDIA AI Enterprise 主机软件 (VIB)#

NVIDIA AI Enterprise 主机软件主机驱动程序是安装在 hypervisor 主机上的软件驱动程序，负责与安装在客户虚拟机上的 NVIDIA vGPU 客户驱动程序通信。

NVIDIA vGPU 客户驱动程序#

NVIDIA vGPU 客户驱动程序是安装在客户虚拟机操作系统上的软件驱动程序，负责与安装在 hypervisor 上的 NVIDIA vGPU 主机驱动程序通信。

重要

NVIDIA AI Enterprise 主机和客户驱动程序可以通过从 NVIDIA 企业许可门户下载或从 NGC Catalog 拉取来获得。有关许可权利证书的更多详细信息，请查看 NVIDIA AI Enterprise 快速入门 指南。

安装 NGC Catalog CLI#

要访问 NVIDIA AI Enterprise 主机软件 (VIB) 和 NVIDIA vGPU 客户驱动程序，您必须首先下载并安装 NGC Catalog CLI。安装 NGC Catalog CLI 后，您需要启动命令窗口并运行以下命令来下载软件。

安装 NGC Catalog CLI

  1. 以访客用户身份进入 NVIDIA NGC 网站。

  2. 在右上角，单击“Welcome Guest”（欢迎访客），然后从菜单中选择“Setup”（设置）。

  3. 在“Setup”（设置）页面中，单击“Install NGC CLI”（安装 NGC CLI）下的“Downloads”（下载）。

  4. 从“CLI Install”（CLI 安装）页面中，根据您将运行 NGC Catalog CLI 的平台，单击“Windows”、“Linux”或“MacOS”选项卡。

  5. 按照说明安装 CLI。

  6. 从“运行”框中打开命令提示符。

  7. 通过输入 ngc --version 验证安装。输出应为 NGC Catalog CLI x.y.z，其中 x.y.z 表示版本。

  8. 输入以下命令 ngc config set。系统将提示您输入您的 NGC API 密钥。

安装 NGC Catalog CLI 后，您需要启动命令窗口并运行以下命令来下载软件。

NVIDIA AI Enterprise 主机软件 (VIB)#

  • VMware ESXi

ngc registry resource download-version "nvaie/vgpu_host_driver_4_0:vGPU Host Driver"

NVIDIA vGPU 客户驱动程序#

  • Ubuntu

ngc registry resource download-version "nvaie/vgpu_guest_driver_4_0:vGPU Guest Driver"

在 1.1 版本中添加。

  • Red Hat Enterprise Linux 8.4 vGPU 客户驱动程序

ngc registry resource download-version "nvaie/vgpu_guest_driver_4_0:vGPU Guest Driver"

注意

有关 NGC Catalog 和 Registry CLI 的更多信息，请参见 此处。

在本页中