禁用 Tokkio 视觉#

Tokkio 可以利用用户的网络摄像头来流式传输和分析视频,从而增强对话体验。但是,用户可以选择禁用此功能,方法是将 Tokkio UI 配置为不流式传输视频。一旦相应地调整了 UI,将不会使用网络摄像头视频,并且只会将音频馈送传输到云端。

重要的是要注意,Tokkio 后端将继续包含用于消耗视频流的必要微服务。如果您希望从应用程序中删除这些服务,请遵循以下概述的指南

UI 前端修改#

可以通过将 enable_camera 标志设置为 false 来配置 UI,使其不将视频流式传输到云端。在单击脚本中,这对应于环境变量 ENABLE_CAMERA。有关更多信息,请参阅 配置(默认)或 配置,具体取决于您正在使用的 UI。

Tokkio 后端修改(可选)#

可以将 Tokkio 配置为禁用用户网络摄像头视频流上的视频处理。这可以通过以下方法之一完成

方法 1:使用 UCS Studio#

  1. 设置凭据以从 UCS 仓库拉取 MS 规范(仅一次,除非 ngc-api-key 更改)

    $ ucf_ms_builder_cli registry repo set-api-key -a <ngc-api-key>
    
  2. 从 GitHub 存储库克隆最新的 ACE 代码。

    $ git clone NVIDIA/ACE.git
  3. 导航到 Tokkio 参考应用程序源目录。

    $ cd ACE/workflows/tokkio/
  4. 启动 UCS Studio

  5. 单击 打开图表,然后从 ucs-tokkio-audio-video-app-<v> 可用的位置选择 tokkio-app.yaml。要打开 LLM 应用程序的图表,请打开 tokkio-llm-app.yaml

  6. 加载图表后,右键单击画布上的空白区域,然后单击 加载参数。选择 tokkio-app-params.yaml(LLM 应用程序选择 tokkio-llm-app-params.yaml)以加载 Tokkio 的参数。有关导入参数的更多信息,请参阅 UCS Studio 导入参数

  7. 使用右键单击删除选择删除微服务 occupancy-alerts、occupancy-alerts-api、ds-visionai 和 tokkio-ds-wdm-envoy。

  8. 使用 UCS Studio 上的 构建当前应用程序 按钮构建 Tokkio 应用程序。有关更多信息,请参阅 UCS Studio 构建应用程序

  9. 应用程序成功构建后,使用 CSP 设置指南(设置指南设置指南设置指南)帮助设置的基础架构将其部署到云端。

方法 2:手动#

此处提供了一个禁用 Tokkio 中的视觉 AI 的视频教程:https://youtu.be/gc5vNmr8iYw。或者,可以按照以下步骤手动禁用视觉 AI。

  1. 设置凭据以从 UCS 仓库拉取 MS 规范(仅一次,除非 ngc-api-key 更改)

    $ ucf_ms_builder_cli registry repo set-api-key -a <ngc-api-key>
    
  2. 从 GitHub 存储库克隆最新的 ACE 代码。

    $ git clone NVIDIA/ACE.git
  3. 导航到 Tokkio 参考应用程序源目录。

    $ cd ACE/workflows/tokkio/
  4. 打开 tokkio-app.yaml(或 tokkio-llm-app.yaml)amd,并通过按照以下步骤删除视觉微服务

    1. dependencies 下,删除以下依赖项

      • ucf.svc.ds.visionai:<版本>

      • ucf.svc.metropolis.occupancy-alerts-api:<版本>

      • ucf.svc.metropolis.occupancy-alerts:<版本>

      • ucf.svc.tokkio.ds-sdr-envoy:<版本>

    2. components 下,删除具有以下名称的组件

      • tokkio-ds-sdr

      • ds-visionai

      • occupancy-alerts-api

      • occupancy-alerts

    3. connections 下,删除以下连接

      • ds-visionai/redis: redis-timeseries/redis

      • occupancy-alerts-api/redis: redis-timeseries/redis

      • occupancy-alerts-api/mongodb: mongodb/mongo

      • occupancy-alerts/redis: redis-timeseries/redis

      • occupancy-alerts/occupancy-alerts-api: occupancy-alerts-api/http-api

      • tokkio-ds-sdr/redis: redis-timeseries/redis

      • tokkio-ds-sdr/httpds: ds-visionai/http-api

      • tokkio-ds-sdr/vms: vms/vms

  5. 按照 通过重建集成自定义更改 中列出的步骤,通过重新部署您的 Tokkio 应用程序来反映更改。