支持矩阵#
模型#
MAISI NIM 支持以下模型
模型名称 |
模型版本 |
模型 URL |
|---|---|---|
MAISI |
0.4.5 |
支持的硬件#
已验证的 GPU#
GPU |
GPU 显存 (GB) |
精度 |
|
|---|---|---|---|
A100 PCIe |
80 |
FP32 |
|
A100 SXM4 |
80 |
FP32 |
|
H100 PCIe |
80 |
FP32 |
|
H100 HBM3 |
80 |
FP32 |
|
L40s |
48 |
FP32 |
有关图像尺寸限制，请参见下表 |
RTX 6000 Ada |
48 |
FP32 |
有关图像尺寸限制，请参见下表 |
所需的 GPU 显存#
输出图像尺寸是所需 GPU 显存量的最决定性因素，如下表所示。但是，请检查确切的配置，因为其他参数也会影响 GPU 显存使用量。
GPU 微架构兼容性#
Ampere
Hopper
CUDA 计算能力#
此 NIM 需要 CUDA 计算能力 ≥ 7.0。