Bot 配置介绍#

所有 NVIDIA ACE Agent 组件都由一组配置驱动。Bot 由目录中的一组配置文件定义。以下部分作为可用不同配置的指南,并概述了构建 Bot 所需组装的常用文件。

支持的配置是 NeMo Guardrails 支持的配置的扩展。

  • 通用配置 - 使用哪种语言模型、其参数、通用指令(类似于系统提示)和示例对话。

  • 槽位配置 [可选] - 一个 yaml 文件,用于定义检测、存储和维护对话历史记录中槽位的任何规则。槽位是一个键值对,聊天引擎可以在其中存储任何信息作为其内存的一部分。ACE Agent 在需要时从内存中提取相关槽位,以有效理解和回答用户查询。

  • 插件配置 [可选] - 为了集成任何用 Python 编写的第三方应用程序(如 LangChain),可以在 Bot 目录中名为 plugins 的目录下提供插件。

  • 模型配置 [可选] - 一个 yaml 文件,用于定义使用不同服务器的任何本地部署或远程部署模型的配置。这些模型可用于执行一组受支持的标准自然语言处理任务。

  • 聊天引擎配置 - 这些配置定义了当请求进入时您的 Bot 应遵循的路径。这些配置可以使用 NVIDIA 的专有对话建模语言 Colang 编写。

这些文件通常包含在一个文件夹中(我们称之为 bot_config),该文件夹可以在使用 aceagent 工具启动 Bot 时引用。

aceagent chat cli -c ./bot_config
sample_bot_directory
├── bot_config
│   └── bot_config.yaml
│   ├── file_1.co
│   ├── file_2.co
│   ├── ...
│   ├──
│   ├── config.py
│   └── slots.yaml
  • 语音配置 - 一组配置,用于控制您的 Bot 的语音 AI 功能,主要涉及自动语音转文本和文本转语音。