支持矩阵#
硬件#
NVIDIA Riva NMT NIM 可在任何受支持的 NVIDIA GPU 上运行。更多信息,请参考支持的模型章节。
注意
NVIDIA Riva NMT NIM 在 NVIDIA Volta 或更高版本的 GPU 上受支持(计算能力 >= 7.0)。选择要部署的模型时,必须注意不要超过可用内存。建议使用 16GB 以上的 VRAM。
软件#
Linux 操作系统(推荐 Ubuntu 22.04 或更高版本)
NVIDIA 驱动程序 >= 535
NVIDIA Docker >= 23.0.1