1. NVML API 参考
NVIDIA 管理库 (NVML) 是一个基于 C 的编程接口，用于监控和管理 NVIDIA Tesla™ GPU 内的各种状态。它旨在成为构建第三方应用程序的平台，并且也是 NVIDIA 支持的 nvidia-smi 工具的底层库。NVML 是线程安全的，因此从多个线程同时进行 NVML 调用是安全的。
API 文档
支持的操作系统平台
- Windows 64 位：Windows Server 2019、Windows Server 2016、Windows Server 2012 R2、Windows 10
- Linux：64 位
支持的产品
-
完全支持
- NVIDIA Tesla 产品线
- A100, A40, A30, A16, A10
- H100
- T4
- V100
- P100, P40, P4, P6
- M60, M40, M6, M4
- K80, K520
- NVIDIA Quadro 产品线
- RTX 8000, RTX 6000, RTX 5000, RTX 4000, RTX 3000
- GV100, GP100, P6000, P5200, P5000, P4000, P2200, P2000, P1000, P620, P600, P400
- M6000 24GB, M6000, M5000, M4000, M2000
- K6000, K5200, K5000, K4000, K4200, K2200, K2000, K2000D, K1200, K620, K600, K420, 410
- NVIDIA GeForce 产品线
- 无
- NVIDIA Tesla 产品线
- 有限支持
- NVIDIA Tesla 产品线：所有其他当前和上一代 Tesla 品牌部件
- NVIDIA Quadro 产品线：所有其他当前和上一代 Quadro 品牌部件
- NVIDIA GeForce 产品线：所有当前和上一代 GeForce 品牌部件
NVML 库可以在 Windows 上的以下位置找到
- 标准驱动程序安装：%ProgramW6432%\"NVIDIA Corporation"\NVSMI\
- DCH 驱动程序安装：\Windows\System32
请注意，这些库不会添加到 Windows 的路径中。要动态链接到 NVML，请将此路径添加到 PATH 环境变量。要动态加载 NVML，请使用此路径调用 LoadLibrary。
在 Linux 上，NVML 库名为“libnvidia-ml.so”，可以在标准库路径中找到。要链接到 NVML 库，请将 -lnvidia-ml 标志添加到链接器命令。
NVML API 分为五个类别