可观测性#

概述#

Audio2Face-3D (A2F-3D) 微服务旨在捕获跟踪和指标，并以 OpenTelemetry (OTel) 格式导出它们。这种格式与大多数现代可观测性工具兼容，从而能够高效地监控和分析服务性能。

除了 OTel 之外，A2F-3D 微服务还支持将指标导出到 Prometheus。

跟踪#

要启用跟踪导出，请将 telemetry.traces_enabled 覆盖设置为 true。

Audio2Face-3D 和 OTLP 跟踪 之间的默认端点是 http://127.0.0.1:4318/v1/traces/。

有关 OpenTelemetry 的可观测性的所有可用配置以及如何覆盖它们，请参阅配置页面。

Audio2Face-3D 捕获以下跟踪

跟踪

描述

nvidia_ace.services.a2f_controller.v1.A2FControllerService/ProcessAudioStream

对应于双向流模式的完整 gRPC 请求的跟踪

nvidia_ace.services.a2f.v1.A2FService/PushAudioStream

对应于单向 gRPC 模式的完整 gRPC 请求的跟踪。

指标#

要启用指标导出

  • 将 telemetry.metrics_enabled 覆盖设置为 true

  • 将 telemetry.metrics_exporter 覆盖设置为 prometheus 或 otlp，具体取决于您用于收集指标的解决方案

Audio2Face-3D 和 OTLP 指标 之间的默认端点是 http://127.0.0.1:4318/v1/metrics。Audio2Face-3D 和 Prometheus 之间的默认端口是 9464。

有关 OpenTelemetry 的可观测性的所有可用配置以及如何覆盖它们，请参阅配置页面。

指标名称

指标类型

描述

streams_in_use

仪表

微服务正在使用的流的数量

streams_available

仪表

仍然可用的流的数量。

快速启动 NIM 容器并可视化指标和跟踪#

您可以使用提供的 docker compose 设置在本地部署中启动遥测收集服务以及 Audio2Face-3D NIM

  • Prometheus：用于收集和观察指标的开源解决方案。

  • Jaeger：用于收集和观察跟踪的开源解决方案。

克隆存储库：NVIDIA/Audio2Face-3D-Samples

转到 quick-start/ 子文件夹。

然后运行 docker compose up 并指定要使用的模型名称

$ A2F_3D_MODEL_NAME={model_name} docker compose -f docker-compose-with-observability.yml up

A2F_3D_MODEL_NAME 可以是以下之一：claire、mark、james。

首次启动可能需要几分钟，成功后您应该看到以下输出

✔ Container a2f-init                   Created                                                                                                                                                                                  0.0s
✔ Container quick-start-prometheus-1   Created                                                                                                                                                                                  0.0s
✔ Container quick-start-jaeger-1       Created                                                                                                                                                                                  0.0s
✔ Container quick-start-a2f-service-1  Created                                                                                                                                                                                  0.0s
Attaching to a2f-init, a2f-service-1, jaeger-1, prometheus-1

您现在正在运行 Audio2Face-3D NIM 的本地部署。

要试用它，您可以使用提供的示例应用程序。在向 Audio2Face-3D NIM 发送请求后，您可以通过访问以下网址来可视化指标和跟踪

  • http://127.0.0.1:9090/graph 用于 Prometheus UI 以查看指标

    • 在查询栏中搜索上表中的一个指标，然后移动到“Graph”选项卡。

    • 要查看更有意义的数据，请尝试通过调整时间间隔来放大图表。

    ../../../../_images/prometheus_example.png

  • http://127.0.0.1:16686/search 用于 Jaeger UI 以查看跟踪

    • 在左侧的“Search”部分中，在“Service”下拉列表中选择“audio2face”，然后单击“Find Traces”。

    ../../../../_images/jaeger_example.png
在本页中