跳到主要内容
Ctrl+K
NVIDIA NIM for Large Language Models (LLMs) - Home

NVIDIA NIM 用于大型语言模型 (LLM)

  • 文档主页
NVIDIA NIM for Large Language Models (LLMs) - Home

NVIDIA NIM 用于大型语言模型 (LLM)

  • 文档主页

目录

NVIDIA NIM 用于 LLM

  • 简介
  • 发行说明
  • 入门指南
  • 部署指南
  • 气隙部署
  • 多节点部署
  • 使用 Helm 部署
  • 教程
  • 配置 NIM
  • 模型配置文件
  • 基准测试
  • 模型
  • 支持的模型
  • 带有系统角色的示例
  • API 参考
  • 函数调用
  • 使用奖励模型
  • Llama Stack API (实验性)
  • 实用工具
  • 微调模型支持
  • 可观测性
  • 结构化生成
  • 参数高效微调
  • KV 缓存重用 (又名:前缀缓存)
  • 致谢
  • 最终用户许可协议
  • 最终用户许可协议

最终用户许可协议#

通过使用此 NIM,您确认您已阅读并同意 NVIDIA AI 产品协议。

上一步

致谢

NVIDIA NVIDIA
隐私政策 | 管理我的隐私 | 请勿出售或分享我的数据 | 服务条款 | 可访问性 | 公司政策 | 产品安全 | 联系方式

版权所有 © 2024-2025,NVIDIA 公司。

最近更新于 2025 年 2 月 14 日。

© . All rights reserved.