提示模板

Llama 3.1 NemoGuard 8B 内容安全 NIM 对用户输入和 LLM 响应输出执行内容安全检查。这些检查可以确保对话输入和输出与系统提示中指定的规则一致。

内容安全的提示模板包含以下关键部分

任务

任务向模型提供执行内容审核的指令。在 NVIDIA 提供的示例提示中，任务包括不安全内容类别的列表。任务指示 LLM 识别内容是否违反安全策略，以及内容是否属于任何不安全内容类别。

对话

对话包含指示 LLM 审核的用户输入。

响应指令

响应指令指示 LLM 评估对话。在 NVIDIA 提供的示例提示中，指令指定对用户安全、响应安全和违反的不安全内容类别进行分类。示例提示还指示 LLM 将响应格式化为仅 JSON。