提交搜索
NVIDIA 开发者
博客
论坛
加入
提交搜索
NVIDIA 开发者
博客
论坛
加入
菜单
NVIDIA Morpheus (24.10.01)
提交搜索
提交搜索
NVIDIA 文档中心
NVIDIA Morpheus
NVIDIA Morpheus (24.10.01)
LLM
LLM
补全管道
目录
支持的环境
背景信息
目的
LLM 服务
下游任务
管道实施
快速入门
先决条件
安装依赖项
设置 NGC API 密钥
运行 Morpheus 管道
运行示例
命令
选项
使用 OpenAI LLM 服务运行 Morpheus 管道
向量数据库上传 (VDB 上传) 管道
目录
支持的环境
背景信息
目的
源文档
嵌入模型
向量数据库服务
实施和设计决策
实施细节
设计决策背后的原理
快速入门
先决条件
确保已下载 LFS 文件
Milvus 服务
Triton 服务
运行 Morpheus 管道
配置平衡注意事项
运行示例
vdb_upload
命令
从 Hugging Face 导出和部署不同的模型
运行 LangChain 管道(可选)
检索增强生成 (RAG) 管道
支持的环境
目录
背景信息
目的
源文档
向量数据库服务
实施和设计决策
实施细节
设计决策背后的原理
独立 Morpheus 管道
先决条件
获取 OpenAI API 或 NGC API 密钥
NGC
OpenAI
Milvus 服务
运行 Morpheus 管道
运行示例(独立管道)
Morpheus LLM Agent 管道
目录
支持的环境
背景信息
目的
LLM 服务
Agent 类型
Agent 工具
LLM 库
管道实施
快速入门
先决条件
设置环境变量
安装依赖项
运行 Morpheus 管道
运行示例(简单管道)
选项
运行示例(Kafka 管道)
选项
上一个
GNN 欺诈检测管道
下一个
补全管道
© 版权所有 2024, NVIDIA。
上次更新时间:2024 年 12 月 3 日。
关闭
此处内容