发行说明#

ACE Agent 4.1.0 版本#

这是 NVIDIA ACE Agent 4.1.0 发行说明。

主要特性和增强功能#

  • 改进了使用 NVIDIA Riva 自动语音识别 (ASR) 2 阶段语句结束 (EOU) 的 RAG 和 LLM Bot 的语音到语音管道的延迟。

  • 增加了对始终开启的通用任意词抢麦的支持。

  • 改进了使用可配置 Riva ASR EOU 阈值的长暂停处理。

  • 整合了示例 Bot，展示了小型语言模型 (SLM) 在 RAG 和角色扮演用例中的使用。

  • 改进了示例 WebUI 应用程序，以展示不同的 ACE Agent 界面。

  • 迁移到 Colang 2.0-beta 版本和 NVIDIA NeMo Guardrails 0.10.1。

兼容性#

局限性#

  • ACE Agent 不支持安全通信和密钥加密等功能，这些功能对于生产部署至关重要。 您需要仔细评估您的部署和使用性质，并实施其他功能和安全措施，其中可能包括身份识别和身份验证、安全的 API 通信、输入和输出过滤以及确保安全可靠 AI 的安全措施。

  • 文档中说明的示例 Bot 和示例客户端旨在测试和演示 NVIDIA ACE Agent 的不同功能。 它们并未针对最佳准确性或性能进行优化。

已弃用和移除的功能#

  • ACE Agent 服务器架构将在未来的 Agent 版本中弃用。 从此版本开始，ACE Agent 事件架构将成为默认架构。

  • Colang 1.0 支持将从下一个 ACE Agent 版本中弃用，同时弃用的还有可以在 ./samples/colang_1.0 目录中找到的 Colang 1.0 示例 Bot。

  • 对联合意图和槽位分类、文本分类和命名实体识别 NLP 模型的训练和推理的支持将在下一个 ACE Agent 版本中弃用。

  • Bot 配置中的意图和槽位模型的支持将在下一个 ACE Agent 版本中移除。

已知问题#

  • 在 Docker 部署中，您可能会观察到一些特定主机 UID 和 GID 的权限问题。 更新 docker-compose.yml 以使用不同的用户或 root 用户来避免此问题。

  • Python 环境 对于 食品订购示例 Bot 将因已知问题而失败。

ACE Agent 4.0.0 版本#

这是 NVIDIA ACE Agent 4.0.0 发行说明。

主要特性和增强功能#

  • ACE Agent 支持文本和语音 Bot 响应的流式传输，以及文本的词级流式传输和语音响应的句子级流式传输。

  • 在 ACE Agent Bot 中增加了对 NVIDIA GenerativeAIExamples RAG 工作流程的预构建支持。

  • 使用 ACE Agent 插件服务器轻松集成基于 LangChain 和 LlamaIndex 的 Agent 与 ACE 微服务。

  • 增加了对 Colang 2.0 和最新的 NVIDIA NeMo Guardrails (0.8.1) 的支持。 Colang 1.0 仍然受支持，但在未来版本中将被弃用。

  • 改进了 ACE Agent 事件接口，以支持 Bot 和用户之间复杂的模态交互。

  • 增加了对 NVIDIA API Catalog 模型和使用 NVIDIA NIM 的本地 LLM 部署的支持。

  • 增加了覆盖预构建的 generate_user_intent 和 generate_bot_message 系统操作以支持自定义逻辑的功能。

  • 包含了一组示例 Bot，展示了各种 ACE Agent 功能。

兼容性#

重大变更#

  • 在上一个版本中，NVIDIA Bot Maker 已重命名为 NVIDIA ACE Agent。 在此版本中，容器、微服务和资源已使用最新的命名进行更新。 Bot Maker Bot Controller 已重命名为 ACE Agent Chat Controller，Bot Maker Dialog Manager 已重命名为 ACE Agent Chat Engine，nvbotmaker 工具已重命名为 aceagent 工具，Bot Maker Fulfillment Server 已重命名为 ACE Agent Plugin Server。

  • 作为此版本的一部分，我们已弃用 ACE Agent NLP 服务器微服务中的嵌入搜索和信息检索支持。 使用检索增强生成 (RAG) 工作流程作为替代方案。

  • ACE Agent 微服务 API 模式已简化和更新，以支持流式响应。

局限性#

  • ACE Agent 不支持安全通信和密钥加密等功能，这些功能对于生产部署至关重要。 用户需要仔细评估其部署和使用性质，并实施其他功能和安全措施，其中可能包括身份识别和身份验证、安全的 API 通信、输入和输出过滤以及确保安全可靠 AI 的安全措施。

  • 文档中说明的示例 Bot 和示例客户端旨在测试和演示 NVIDIA ACE Agent 的不同功能。 它们并未针对最佳准确性或性能进行优化。

已知问题#

  • 我们使用 yfinance 提取市值，并使用 yahoo-fin 提取实时股价。 如果您发现软件包有问题，可以使用 Alpha Vantage 或类似的 API 构建股票插件，以获取此信息并将其与现有 Bot 集成。

  • 在 Docker 部署中，您可能会观察到一些特定主机 UID 和 GID 的权限问题。 更新 docker-compose.yml 以使用不同的用户或 root 用户来避免此问题。

ACE Agent 3.0.1 EA 版本#

这是 NVIDIA ACE Agent 3.0.1 抢先体验 (EA) 发行说明。 此 EA 版本用于早期测试和反馈。

已修复的错误#

  • 从文档和示例 Bot 中移除了已弃用的 OpenAI 模型 text-davinci-003 的使用。

  • 修复了在 OpenAI 模型 gpt-3.5-turbo-instruct 的 ACE Agent Chat Engine 中观察到的错误。

  • 弃用了作为 3.0.0-ea 版本一部分提供的 NeMo Inform 和 Financial 示例 Bot。

已知问题#

  • 作为此版本一部分提供的示例 Bot 仅用于实验目的，并非详尽无遗，不应在未进行尽职调查的情况下用于生产。

ACE Agent 3.0.0 EA 版本#

这是 NVIDIA ACE Agent 3.0.0 抢先体验 (EA) 发行说明。 此 EA 版本用于早期测试和反馈。

主要特性和增强功能#

  • NVIDIA NeMo Guardrail 和基于 Colang 的对话管理和防护栏支持

  • 支持插入自定义 Pythonic 对话管理代码

  • NvBotMaker CLI 工具，用于在原生 Python 环境中构建您的 Bot

  • 基于 Docker Compose 的部署支持

  • Kubernetes 环境中的部署支持

  • 与 NVIDIA NeMo LLM 和 NeMo Inform EA 服务集成

  • 与 NVIDIA Riva 翻译集成

  • 具有专用端点的独立 NLP 服务器，用于常见的 NLP 任务

  • 用于自定义 NLP 模型和检索管道的连接器

  • 具有支持自定义端点能力的独立 Fulfillment 服务器

  • 转换脚本和指南，用于将以前的基于版本的 Bot 移植到 Colang

  • 使用不同配置同时部署多个 Bot

  • 支持插入第三方 TTS 管道

  • 一组示例 Bot，展示了各种 ACE Agent 功能

公告#

  • 从本版本开始，NVIDIA Bot Maker 已重命名为 NVIDIA ACE Agent。 Bot Maker Bot Controller 已重命名为 ACE Agent Chat Controller，Bot Maker Dialog Manager 已重命名为 ACE Agent Chat Engine。 在此版本中，容器、微服务和资源使用的是旧名称，将在下一个版本中更新

  • 此 NVIDIA ACE Agent 版本支持 Riva Skills 2.13.0。

  • 此 NVIDIA ACE Agent 版本基于 NeMo Guardrails v0.5.0。

局限性#

  • 这是一个抢先体验 (EA) 版本，因此，并非所有功能都完全受支持且正常工作。 此 EA 版本旨在用于测试、反馈和研究。

  • NVIDIA ACE Agent 作为 SDK 提供，用于测试和开发，它不是生产就绪的解决方案。 用户需要仔细评估其部署和使用性质，并实施其他功能和安全措施，其中可能包括身份识别和身份验证、安全的 API 通信、输入和输出过滤以及确保安全可靠 AI 的安全措施。

已知问题#

  • 建议在 Fulfillment 服务器中返回字符串响应而不是数值，因为当响应可能为 0 时。 这是因为当从 Fulfillment 服务器获取值时，ACE Agent 将 0 和空字符串解释为 None，这可能会导致意外行为。

  • 我们使用 yfinance 提取市值，并使用 yahoo-fin 提取实时股价。 如果您发现软件包有问题，可以使用 Alpha Vantage 或类似的 API 构建股票 fulfillment，以获取此信息并将其与现有 Bot 集成。

在本页中