跳到主要内容
返回顶部
Ctrl
+
K
NVIDIA NIM 用于大型语言模型 (LLM)
文档主页
NVIDIA NIM 用于大型语言模型 (LLM)
文档主页
目录
NVIDIA NIM 用于 LLM
简介
发行说明
入门指南
部署指南
气隙部署
多节点部署
使用 Helm 部署
教程
配置 NIM
模型配置文件
基准测试
模型
支持的模型
带有系统角色的示例
API 参考
函数调用
使用奖励模型
Llama Stack API (实验性)
实用工具
微调模型支持
可观测性
结构化生成
参数高效微调
KV 缓存重用 (又名:前缀缓存)
致谢
最终用户许可协议
最终用户许可协议
最终用户许可协议
#
通过使用此 NIM,您确认您已阅读并同意
NVIDIA AI 产品协议
。