Chitchat Bot#

闲聊 Bot 可以与用户就日常话题进行非正式对话。闲聊 Bot 使用以下 ACE Agent 功能

基于 Docker 的 Bot 部署

闲聊示例 Bot 使用 OpenAI gpt-4-turbo 作为主要模型。此示例 Bot 位于 快速入门目录 中的 ./samples/chitchat_bot/。

  1. 设置 OpenAI API 密钥环境变量。

    export OPENAI_API_KEY=...

  2. 在 NGC_CLI_API_KEY 环境变量中设置你的 NGC 个人 API 密钥。

    export NGC_CLI_API_KEY=...

  3. 准备 Docker Compose 命令的环境。

    export BOT_PATH=./samples/chitchat_bot/
source deploy/docker/docker_init.sh

  4. 部署搜索和 NLP 模型。首次可能需要 20-40 分钟。对于闲聊示例 Bot，将部署 Riva ASR（自动语音识别）和 TTS（文本到语音）模型。

    docker compose -f deploy/docker/docker-compose.yml up model-utils-speech

  5. 部署 ACE Agent 微服务。部署 Chat Controller 和 Chat Engine 微服务。

    docker compose -f deploy/docker/docker-compose.yml up speech-event-bot -d

  6. 等待几分钟，直到所有服务准备就绪。你可以查看各个微服务的 Docker 日志进行确认。你将在 Chat Controller 容器的 Docker 日志中看到日志打印 Server listening on 0.0.0.0:50055。

  7. 使用 URL http://<workstation IP>:7006/ 与 Bot 交互。为了访问浏览器上的麦克风，我们需要通过添加 SSL 验证将 http 转换为 https 端点，或者更新你的 chrome://flags/ 或 edge://flags/ 以允许 http://<workstation IP>:7006 作为安全端点。

Chitchapt bot sample conversation