发布说明#

v1.0.0#

功能特性#

这是 Llama 3.1 NemoGuard 8B ContentSafety NIM 的首个版本。此微服务提供 GPU 加速的 LLM 模型,用于执行内容审核,以构建值得信赖的 LLM 应用程序。LLM 模型检测用户消息或机器人响应中的有害内容。

已知问题#

  • 张量并行 4 GPU 模型配置文件不可运行。这是一个已知问题。