Vertex AI 设置

本指南概述了如何设置 Vertex AI,以便能够从代码中调用 Vertex AI API。

为了使用 Vertex AI,您需要在 Google Cloud Platform (GCP) 上执行一些初始设置。

  1. 创建 GCP 账户:以下 页面 提供了关于 Google Cloud Platform 以及如何开始使用的更多信息。在您的账户中 创建一个项目为其设置账单

  2. 安装 gcloud CLI (指南)。请注意,尽管 3.8 - 3.12 被列为受支持的版本,但在 Python 3.12 上会出现 此错误。本指南已使用 Python 3.10.2 进行测试。

  3. 按照 本指南 创建一个服务账户,并授予其 Vertex AI Service Agent 角色。

  4. 为服务账户创建并下载服务账户密钥 (指南)。

  5. 启用 Vertex AI API (指南)

  6. 安装调用 Vertex AI 所需的其他 Python 库,使用命令:pip install "google-cloud-aiplatform>=1.38.0"

使用以下代码片段测试您是否能够成功调用 Vertex AI API。

import os
os.environ['GOOGLE_APPLICATION_CREDENTIALS'] = "<path>/<to>/<your>/<service>/<account>/<key>.json"

from vertexai.preview.generative_models import GenerativeModel, ChatSession

model = GenerativeModel("gemini-1.0-pro")
chat = model.start_chat()

def get_chat_response(chat: ChatSession, prompt: str):
    response = chat.send_message(prompt)
    return response.text

prompts = [
    "Hi, who are you?",
    "What can you tell me about the United States?",
    "Where was its 44th president born?",
]

for prompt in prompts:
    print("User:", prompt)
    print("Gemini:", get_chat_response(chat, prompt))
    print("------")