NVIDIA Holoscan SDK v2.9.0

概述

NVIDIA Holoscan 是 AI 传感器处理平台,它结合了用于低延迟传感器和网络连接的硬件系统、用于数据处理和 AI 的优化库以及核心微服务,以运行从嵌入式到边缘到云的流式传输、成像和其他应用程序。它可用于为各种领域构建流式 AI 管道,包括医疗设备、边缘的高性能计算、工业检测等等。

Holoscan SDK 通过提供以下内容来协助开发者

  1. 各种安装策略

从容器到 Python wheels,再到源代码,以及从开发到部署环境,Holoscan SDK 提供多种打包方式,以适应不同的需求。在 sdk 安装 部分查找更多信息。

  1. C++ 和 Python API

这些 API 现在是在 Holoscan SDK 中创建应用程序管道的推荐接口。请参阅 使用 SDK 部分,了解如何利用这些 API,或者参阅 Doxygen 页面 (C++/Python) 以获取特定的 API 文档。

  1. 内置 Operators

Holoscan 应用程序中的工作单元在 Operators 中实现,如 SDK 的 核心概念中所述。SDK 中包含的 operators 提供领域无关的功能,例如 IO、机器学习推理、处理和可视化,针对 AI 流式传输管道进行了优化,并依赖于一组 核心技术。本指南在此处提供了有关 SDK 中提供的 operators 的更多信息 此处

  1. 最简示例

Holoscan SDK 提供了一系列示例,用于说明 SDK 的特定功能。它们的源代码可以在 GitHub 存储库中找到。Holoscan 示例部分提供了对其中一些示例的逐步分析,以说明 Holoscan SDK 的内部工作原理。

  1. Operators 和应用程序的存储库

HoloHub 是一个中央存储库,供用户和开发者与 Holoscan 社区共享可重用的 operators 和示例应用程序。由于是开源的,这些 operators 和应用程序也可以用作参考实现,以完善 SDK 中提供的内置 operators 和示例。

  1. 用于打包和部署应用程序的工具

打包和部署应用程序是一个复杂的问题,可能需要大量的精力。Holoscan CLI 是 Holoscan SDK 中包含的命令行界面,它提供命令以在符合 OCI 标准的容器中打包和运行应用程序,这些容器可用于生产环境。

  1. 性能工具

正如相关技术部分所强调的那样,Holoscan 项目的核心是通过利用 NVIDIA 开发或第三方提供的硬件和软件来实现峰值性能。为了验证这一点,Holoscan 提供了性能工具,以帮助用户和开发者跟踪其应用程序性能。它们目前包括

  • 一个 视频管道延迟测量工具,用于测量和估计视频流应用程序的总端到端延迟,包括使用 NVIDIA 开发者套件支持的各种硬件和软件组件进行视频捕获、处理和输出。

  • 数据流跟踪功能,用于分析您的应用程序并分析其图中 operators 之间的数据流。

  1. 文档

Holoscan SDK 文档由以下部分组成

注意

在之前的版本中,前缀 Clara 用于将 Holoscan 定义为最初为 医疗设备设计的平台。从 0.4.0 版本开始,Holoscan SDK 构建为领域无关的,可用于在多个领域构建传感器 AI 应用程序。特定领域的内容将托管在 HoloHub 存储库中。

上一页 欢迎来到 Holoscan SDK 文档!
下一页 相关技术
© 版权所有 2022-2024,NVIDIA。 上次更新于 2025 年 1 月 27 日。