模型#
关于模型配置文件#
NVIDIA NIM 微服务的模型使用针对特定 NVIDIA GPU 型号、GPU 数量、精度等优化的模型引擎。 NVIDIA 为几种常见的组合生成模型引擎，这些组合被称为模型配置文件。 每个模型配置文件都由一个唯一的 64 个字符的十六进制数字字符串标识，该字符串被称为配置文件 ID。
NIM 微服务支持自动配置文件选择，通过确定节点上的 GPU 型号和数量，并尝试匹配最佳模型配置文件。 或者，NIM 微服务支持运行指定的模型配置文件，但这要求您查看配置文件并知道配置文件 ID。
可用的模型配置文件存储在 NIM 容器文件系统中的一个文件中。 该文件被称为模型清单文件，默认路径是容器中的 /opt/nim/etc/default/model_manifest.yaml。
Hive AI 生成图像检测模型配置文件#
Hive 的 AI 生成图像检测模型针对由流行的 AI 生成引擎（如 DALL-E、Midjourney 和 Stable Diffusion）生成的媒体类型进行了优化。
该模型有两个头。 第一个头对所有图像进行二元分类，识别它们是否是 AI 生成的，并提供相应的置信度评分。 第二个头提供关于图像来源的更多细节，并支持当前使用最流行的 AI 艺术生成器。 如果模型无法识别来源，它将在来源头下返回 none。
要选择用于部署的模型配置文件，请使用 -e NIM_MODEL_PROFILE=<value> 设置特定的模型配置文件 ID。 您可以从以下列表中为您的 GPU 选择模型配置文件 ID
GPU |
后端 |
配置文件 ID |
|---|---|---|
H100 |
TensorRT |
999d2a67b77bfc7d7350fb357dce68a93ff35859b8934b407b78fee4c4cbb8c4 |
A100 |
TensorRT |
c1ae702a62775c1a79bc7f4b3a3feb9efb333452c9cb09d6483e31c66559e3f5 |
L40 |
TensorRT |
185fbd9b7db53b83e1ae39a4d79a422f18affc9ec6c87b6b688cf18f5c12bb51 |
A10G |
TensorRT |
92dd744c0c7a13123e133a4db910572150d5c99e38d43af146840cd12c65e6fc |
如果您在不支持的 GPU 上运行，NIM 将选择一个通用的、非优化的配置文件，其配置文件 ID 为 523658e9ea1d0d50ea13b6c8d295bcaf0d88596f3fbab27a921c40c22a7985f7。
Hive Deepfake 图像检测模型配置文件#
Hive 的 Deepfake 图像检测模型识别图像是否为 deepfake。 该模型在图像中定位人脸。 对于检测到的每张人脸，此模型输出其位置的边界框、分类和相应的置信度评分。 图像分类模型，用于分类图像是否为 deepfake。
要选择用于部署的模型配置文件，请使用 -e NIM_MODEL_PROFILE=<value> 设置特定的模型配置文件 ID。 您可以从以下列表中为您的 GPU 选择模型配置文件 ID
GPU |
后端 |
配置文件 ID |
|---|---|---|
H100 |
TensorRT |
999d2a67b77bfc7d7350fb357dce68a93ff35859b8934b407b78fee4c4cbb8c4 |
A100 |
TensorRT |
c1ae702a62775c1a79bc7f4b3a3feb9efb333452c9cb09d6483e31c66559e3f5 |
L40 |
TensorRT |
185fbd9b7db53b83e1ae39a4d79a422f18affc9ec6c87b6b688cf18f5c12bb51 |
A10G |
TensorRT |
92dd744c0c7a13123e133a4db910572150d5c99e38d43af146840cd12c65e6fc |
如果您在不支持的 GPU 上运行，NIM 将选择一个通用的、非优化的配置文件，其配置文件 ID 为 523658e9ea1d0d50ea13b6c8d295bcaf0d88596f3fbab27a921c40c22a7985f7。