发布说明

v1.0.0

特性

这是 Llama 3.1 NemoGuard 8B TopicControl NIM 的首个版本。此微服务提供 GPU 加速的 LLM 模型，用于对话式对话审核，以保持对话围绕主题并构建可信赖的 LLM 应用程序。

已知问题

• 张量并行 4 GPU 模型配置不可运行。这是一个已知问题。