Vertex AI 设置

本指南概述了如何设置 Vertex AI，从而能够从代码中调用 Vertex AI API。

为了使用 Vertex AI，您需要在 Google Cloud Platform (GCP) 上执行一些初始设置。

1. 创建 GCP 帐户：以下页面提供了有关 Google Cloud Platform 以及如何入门的更多信息。在您的帐户中创建一个项目并为其设置结算

2. 安装 gcloud CLI (指南)。请注意，尽管列出了支持 3.8 - 3.12 版本，但在 Python 3.12 上会出现此错误。本指南已使用 Python 3.10.2 进行测试。

3. 按照本指南创建一个服务帐户，并为其授予 Vertex AI Service Agent 角色。

4. 为服务帐户创建并下载服务帐户密钥 (指南)。

5. 启用 Vertex AI API (指南)

6. 使用 pip install "google-cloud-aiplatform>=1.38.0" 安装调用 Vertex AI 所需的其他 Python 库

测试您是否能够使用以下代码片段成功调用 VertexAI API

import os
os.environ['GOOGLE_APPLICATION_CREDENTIALS'] = "<path>/<to>/<your>/<service>/<account>/<key>.json"

from vertexai.preview.generative_models import GenerativeModel, ChatSession

model = GenerativeModel("gemini-1.0-pro")
chat = model.start_chat()

def get_chat_response(chat: ChatSession, prompt: str):
    response = chat.send_message(prompt)
    return response.text

prompts = [
    "Hi, who are you?",
    "What can you tell me about the United States?",
    "Where was its 44th president born?",
]

for prompt in prompts:
    print("User:", prompt)
    print("Gemini:", get_chat_response(chat, prompt))
    print("------")