NVIDIA NemoGuard JailbreakDetect NIM

关于微服务

此微服务对用户提供的提示中的越狱尝试进行分类。

此微服务使用 Ardennes 模型。该模型是由 NVIDIA 在 Snowflake Arctic Embed M Long 模型上训练的随机森林。该模型是目前已知公开可用的检测 LLM 越狱尝试的最佳模型。

许可

组件	工件类型	工件许可
NVIDIA NemoGuard JailbreakDetect NIM	容器	NVIDIA 软件许可协议 以及 NVIDIA AI 产品特定条款
NemoGuard Jailbreak Detect	模型	NVIDIA 社区模型许可协议

相关信息

• 通过预训练嵌入改进的大型语言模型越狱检测，arXiv:2412.01547。

• Hugging Face Hub 上的 Snowflake/snowflak-arctic-embed-m-long。