简介#

客户越来越希望采用生成式 AI 解决方案,以提高生产力、推动创新并获得竞争优势。 因此,需要快速开发以及从试点到生产的更轻松路径。 创建 AI 工作流旨在为开发人员提供一套打包的微服务,以便体验和试验 AI 解决方案,并提供清晰的生产路径。

什么是 NVIDIA AI 工作流?#

NVIDIA AI 工作流提供参考示例,说明如何利用 NVIDIA NIM 推理微服务和框架来构建 AI 解决方案,以解决业务问题。 这些工作流为各种 AI 任务提供指导。 这些任务包括但不限于微调、使用 NVIDIA 技术创建 AI 模型,以及在行业垂直或水平用例中应用这些模型。 其中重点介绍了创建应用程序的管道,以及关于如何部署定制应用程序并将其与企业环境中常见的各种组件(例如用于编排和管理、存储、安全、网络等的组件)集成的指导。

通过针对您的特定用例利用 AI 工作流,您可以按照工作流提供的示例,根据您的安全模型简化 AI 解决方案的开发,从而

  • 缩短开发时间和成本

  • 提高准确性和性能

  • 通过利用 NVIDIA AI 专业知识,增强对结果的信心

示例工作流确定要使用哪些 NVIDIA NIM 和 AI 框架,如何将数据引入管道,以及如何处理数据输出。 AI 工作流被设计为微服务,这意味着它们可以单独部署在 Kubernetes 上,也可以与其他微服务一起部署,以创建一个可用于无缝扩展的生产就绪应用程序。 工作流云可部署软件包可跨不同的云实例使用,并且是自动化和可互操作的。

NVIDIA AI 工作流在 NVIDIA NGC 上为 NVIDIA AI Enterprise 软件客户提供,并且可以通过 90 天试用许可证 免费访问。

NVIDIA AI 工作流组件#

NVIDIA AI 工作流包含 AI 框架以及用于自动化云原生解决方案的工具。 AI 工作流还具有打包组件,其中包括企业就绪的实现和最佳实践,以确保可靠性、安全性、性能、可扩展性和互操作性,同时允许您偏离路径。

典型的 Workflow 可能类似于下图

_images/image0.png

在每个 workflow 中,都在此堆栈的每一层提供了带有倾向性的指导和示例组件,以及关于如何将 AI 解决方案与这些组件集成的信息

硬件

需要 NVIDIA AI Enterprise 支持的 GPU 加速本地硬件或云实例。

应用程序

示例微服务以 Helm chart 和定制容器的形式提供,这些微服务作为 workflow 的一部分部署,以演示如何使用 NVIDIA 框架定制和构建 AI 应用程序,以及如何将此应用程序与其他微服务和企业软件组件集成。