概述#

NVIDIA 云函数 (NVCF) 是一个在 GPU 上部署和管理 AI 工作负载的无服务器 API，它为您的工作负载提供安全性、可扩展性和可靠性。访问工作负载的 API 是非预设的，并支持 HTTP 轮询、HTTP 流式传输和 gRPC。

云函数可通过 NGC 门户获得。要获得云函数的访问权限，请与您的 NVIDIA 客户经理联系。

云函数主要适用于运行时间较短、可抢占的工作负载，例如推理和微调。

请参阅函数生命周期以了解关键概念和术语。

函数类型#

云函数支持两种不同的工作负载和部署类型来定义函数 - “容器”和 “Helm Chart” 函数类型。

工作负载是临时的和可抢占的，因此请确保您没有运行耗时较长的任务（例如跨越数小时的任务），而没有期望将您的工作保存到本地磁盘。

云函数模型、容器、helm charts 和任何其他资源均由 NGC 私有注册表托管和拉取。

请参阅函数创建以获得每种函数类型的深入概述。

开始使用云函数的最佳方法是按照快速入门进行操作。