目录

• 1. 简介
• 2. 支持的 GPU
• 3. 支持的配置
• 4. 虚拟化
• 5. 概念
  • 5.1. 术语
  • 5.2. 分区
  • 5.3. CUDA 并发机制
• 6. 部署注意事项
  • 6.1. 系统注意事项
  • 6.2. 应用程序注意事项
• 7. MIG 设备名称
  • 7.1. 设备枚举
  • 7.2. CUDA 设备枚举
• 8. 支持的 MIG 配置文件
  • 8.1. A30 MIG 配置文件
  • 8.2. A100 MIG 配置文件
  • 8.3. H100 MIG 配置文件
  • 8.4. H200 MIG 配置文件
• 9. MIG 入门
  • 9.1. 前提条件
  • 9.2. 启用 MIG 模式
    • 9.2.1. Hopper+ GPU 上的 GPU 重置
    • 9.2.2. NVIDIA Ampere 架构 GPU 上的 GPU 重置
    • 9.2.3. 驱动程序客户端
  • 9.3. 列出 GPU 实例配置文件
  • 9.4. 创建 GPU 实例
    • 9.4.1. 实例几何结构
  • 9.5. 在裸机上运行 CUDA 应用程序
    • 9.5.1. GPU 实例
    • 9.5.2. GPU 利用率指标
    • 9.5.3. 计算实例
  • 9.6. 销毁 GPU 实例
  • 9.7. 监控 MIG 设备
  • 9.8. MIG 与 CUDA MPS
    • 9.8.1. 工作流程
    • 9.8.2. 配置 GPU 实例
    • 9.8.3. 设置 MPS 控制守护程序
    • 9.8.4. 启动应用程序
    • 9.8.5. 完整示例
  • 9.9. 以容器形式运行 CUDA 应用程序
    • 9.9.1. 安装 Docker
    • 9.9.2. 安装 NVIDIA Container Toolkit
    • 9.9.3. 运行容器
  • 9.10. MIG 与 Kubernetes
  • 9.11. MIG 与 Slurm
• 10. 设备节点和功能
  • 10.1. 系统级接口
    • 10.1.1. 基于 /dev 的 nvidia-capabilities
    • 10.1.2. 基于 /proc 的 nvidia-capabilities (已弃用)
• 11. 公告
  • 11.1. 公告
  • 11.2. OpenCL
  • 11.3. 商标