Vertex AI 设置
本指南概述了如何设置 Vertex AI,以便能够从代码中调用 Vertex AI API。
为了使用 Vertex AI,您需要在 Google Cloud Platform (GCP) 上执行一些初始设置。
创建 GCP 账户:以下 页面 提供了关于 Google Cloud Platform 以及如何开始使用的更多信息。在您的账户中 创建一个项目 并 为其设置账单
安装
gcloud
CLI (指南)。请注意,尽管 3.8 - 3.12 被列为受支持的版本,但在 Python 3.12 上会出现 此错误。本指南已使用 Python 3.10.2 进行测试。按照 本指南 创建一个服务账户,并授予其
Vertex AI Service Agent
角色。为服务账户创建并下载服务账户密钥 (指南)。
启用 Vertex AI API (指南)
安装调用 Vertex AI 所需的其他 Python 库,使用命令:
pip install "google-cloud-aiplatform>=1.38.0"
使用以下代码片段测试您是否能够成功调用 Vertex AI API。
import os
os.environ['GOOGLE_APPLICATION_CREDENTIALS'] = "<path>/<to>/<your>/<service>/<account>/<key>.json"
from vertexai.preview.generative_models import GenerativeModel, ChatSession
model = GenerativeModel("gemini-1.0-pro")
chat = model.start_chat()
def get_chat_response(chat: ChatSession, prompt: str):
response = chat.send_message(prompt)
return response.text
prompts = [
"Hi, who are you?",
"What can you tell me about the United States?",
"Where was its 44th president born?",
]
for prompt in prompts:
print("User:", prompt)
print("Gemini:", get_chat_response(chat, prompt))
print("------")