禁用 Tokkio 视觉#
Tokkio 可以利用用户的网络摄像头来流式传输和分析视频,从而增强对话体验。但是,用户可以选择禁用此功能,方法是将 Tokkio UI 配置为不流式传输视频。一旦相应地调整了 UI,将不会使用网络摄像头视频,并且只会将音频馈送传输到云端。
重要的是要注意,Tokkio 后端将继续包含用于消耗视频流的必要微服务。如果您希望从应用程序中删除这些服务,请遵循以下概述的指南
UI 前端修改#
可以通过将 enable_camera 标志设置为 false 来配置 UI,使其不将视频流式传输到云端。在单击脚本中,这对应于环境变量 ENABLE_CAMERA
。有关更多信息,请参阅 配置(默认)或 配置,具体取决于您正在使用的 UI。
Tokkio 后端修改(可选)#
可以将 Tokkio 配置为禁用用户网络摄像头视频流上的视频处理。这可以通过以下方法之一完成
方法 1:使用 UCS Studio#
设置凭据以从 UCS 仓库拉取 MS 规范(仅一次,除非 ngc-api-key 更改)
$ ucf_ms_builder_cli registry repo set-api-key -a <ngc-api-key>
从 GitHub 存储库克隆最新的 ACE 代码。
$ git clone NVIDIA/ACE.git
导航到 Tokkio 参考应用程序源目录。
$ cd ACE/workflows/tokkio/
启动 UCS Studio
单击 打开图表,然后从 ucs-tokkio-audio-video-app-<v> 可用的位置选择 tokkio-app.yaml。要打开 LLM 应用程序的图表,请打开 tokkio-llm-app.yaml。
加载图表后,右键单击画布上的空白区域,然后单击 加载参数。选择 tokkio-app-params.yaml(LLM 应用程序选择 tokkio-llm-app-params.yaml)以加载 Tokkio 的参数。有关导入参数的更多信息,请参阅 UCS Studio 导入参数。
使用右键单击删除选择删除微服务 occupancy-alerts、occupancy-alerts-api、ds-visionai 和 tokkio-ds-wdm-envoy。
使用 UCS Studio 上的 构建当前应用程序 按钮构建 Tokkio 应用程序。有关更多信息,请参阅 UCS Studio 构建应用程序。
方法 2:手动#
此处提供了一个禁用 Tokkio 中的视觉 AI 的视频教程:https://youtu.be/gc5vNmr8iYw。或者,可以按照以下步骤手动禁用视觉 AI。
设置凭据以从 UCS 仓库拉取 MS 规范(仅一次,除非 ngc-api-key 更改)
$ ucf_ms_builder_cli registry repo set-api-key -a <ngc-api-key>
从 GitHub 存储库克隆最新的 ACE 代码。
$ git clone NVIDIA/ACE.git
导航到 Tokkio 参考应用程序源目录。
$ cd ACE/workflows/tokkio/
打开 tokkio-app.yaml(或 tokkio-llm-app.yaml)amd,并通过按照以下步骤删除视觉微服务
在
dependencies
下,删除以下依赖项ucf.svc.ds.visionai:<版本>
ucf.svc.metropolis.occupancy-alerts-api:<版本>
ucf.svc.metropolis.occupancy-alerts:<版本>
ucf.svc.tokkio.ds-sdr-envoy:<版本>
在
components
下,删除具有以下名称的组件tokkio-ds-sdr
ds-visionai
occupancy-alerts-api
occupancy-alerts
在
connections
下,删除以下连接ds-visionai/redis: redis-timeseries/redis
occupancy-alerts-api/redis: redis-timeseries/redis
occupancy-alerts-api/mongodb: mongodb/mongo
occupancy-alerts/redis: redis-timeseries/redis
occupancy-alerts/occupancy-alerts-api: occupancy-alerts-api/http-api
tokkio-ds-sdr/redis: redis-timeseries/redis
tokkio-ds-sdr/httpds: ds-visionai/http-api
tokkio-ds-sdr/vms: vms/vms
按照 通过重建集成自定义更改 中列出的步骤,通过重新部署您的 Tokkio 应用程序来反映更改。