环境变量和先决条件设置#

注意

尽管本文档概述了某些云服务提供商 (CSP) 的程序，但强烈建议查阅官方公开的 CSP 文档，以获取最新和全面的说明。 CSP 经常更新其服务和界面，因此务必依赖其当前的指南，以确保准确性和最佳实施。

在配置模板中使用 lookup 函数#

配置模板 yml 文件包含有关基础设施和应用程序需求的多个输入。为了便于使用，其中一些输入已连接到查找环境变量。例如，{{ lookup(‘env’, ‘NGC_CLI_API_KEY’) }} 将其扩展为 NGC_CLI_API_KEY 环境变量。这意味着，我们可以为 NGC_CLI_API_KEY 设置一个环境变量及其值，并且部署脚本可以自动访问它。

环境变量定义#

默认情况下，示例环境变量文件 examples 文件夹提供如下所示的内容。根据需要，您可以创建更多环境变量并在 config-template yaml 文件中使用 lookup 函数。

cat my-config.env
export OPENAI_API_KEY="<replace-with-actual-value>"
export NGC_CLI_API_KEY="<replace-with-actual-value>"
export NVIDIA_API_KEY="<replace-with-actual-value>"
export CLOUDSDK_AUTH_CREDENTIAL_FILE_OVERRIDE="<replace-with-absolute-path-where-service-account-key-json-file-stored>"

下表解释了 examples 文件夹中使用的每个环境变量的用途。

Azure 环境变量#

环境变量

定义

OPENAI_API_KEY

通过 API 访问 OpenAI 模型的密钥

NGC_CLI_API_KEY

通过命令行访问 NGC 资源的密钥。例如 Helm charts、模型、容器镜像等。

NVIDIA_API_KEY

通过命令行访问 NGC 资源的密钥。例如 Helm charts、模型、容器镜像等。此密钥专门用于访问 Nvidia NIM。

CLOUDSDK_AUTH_CREDENTIAL_FILE_OVERRIDE

包含凭据的 JSON 文件，允许应用程序以 GCP 服务帐户身份进行身份验证。

注意

如果您修改了 <my-env-file.env> 文件或启动了新的 shell，则必须再次运行 source <my-env-file.env>，然后再运行 ./envbuild.sh

设置 GCP 先决条件#

登录到 GCP 控制台#

  • 以具有管理员访问权限的用户身份登录 GCP 控制台。

  • 单击左上角的 导航 菜单，进入列出所有产品/服务的页面。

  • 对于所有后续步骤，请导航回此页面以查找并创建新资源。

IAM & 管理员设置#

服务帐户#

  • 从左侧导航菜单中选择 IAM & 管理员。

  • 选择 服务 帐户。

  • 单击服务帐户页面顶部的 创建 服务 帐户 按钮以创建新的服务帐户。

  • 在向导中

  • 转到“服务帐户详细信息”部分

    • 服务帐户名称：提供合适的名称。（例如：<my-org>-tokkio-automation）

    • 服务帐户 ID：它将使用服务帐户名称自动填充。

    • 服务帐户描述：为服务帐户提供合适的描述。

    • 单击“创建并继续”按钮

  • 转到“授予此服务帐户对项目的访问权限 *”部分。选择“所有者”角色，然后单击“继续”。

  • “授予用户对此服务帐户的访问权限”部分是可选的。

  • 单击“完成”。

  • 您将自动转到“服务帐户”页面。如果不是，请执行以下操作

    • 从左侧导航菜单中选择 IAM & 管理员。

    • 从左侧菜单中选择 服务 帐户。

  • 在“服务帐户”页面上，它将显示此项目中所有可用的服务帐户。

  • 使用“电子邮件”或“名称”字段标识创建的服务帐户。

  • 从列表中单击 已创建的服务帐户，它将打开一个页面，显示有关服务帐户的所有详细信息。

  • 单击页面上可用的“密钥”选项。

  • 单击“添加密钥”，然后选择“创建新密钥”选项，并选择 JSON 作为密钥类型。

  • 密钥文件将自动下载到您的本地计算机。此密钥文件包含以服务帐户身份向 GCP 进行身份验证所需的私钥。

部署状态存储#

从导航菜单页面

  • 从类别（左侧）中选择 Cloud Storage。

  • 单击“+创建”按钮以创建新的存储帐户。

  • 在向导中

    • 在“命名您的存储桶”部分

      • 为存储桶提供全局唯一的名称。（我们正在创建此存储桶以存储部署状态。）

      • （可选）添加标签。

    • 在“选择数据存储位置”部分： - 将“位置类型”选择为“区域”。 - 从下拉列表中选择合适的区域。

    • 将所有其他部分保留原样。

    • 单击“创建”。

基本域名#

从搜索框中

  • 搜索 Cloud DNS，然后从下拉列表中选择 Cloud DNS 产品。

  • 单击“+创建区域”按钮以创建新域名。

  • 在向导中

    • 将区域类型选择为“公共”。

    • 输入“区域名称”。

    • 提供“DNS 名称”。

    • （可选）添加描述。

    • 将所有其他部分保留原样。

    • 单击“创建”。

在本页中