以编程方式使用文档

Google Vertex 是一项公开 Google Cloud 中所有基础模型的服务,例如 gemini-2.5-pro, gemini-2.5-flash等。

这将帮助您开始使用 LangChain 处理 VertexAI 补全模型(LLM)。有关 VertexAI 功能和配置选项的详细文档,请参阅 API 参考.

概述

集成详情

本地可序列化PY 支持下载量版本
VertexAI@langchain/google-vertexai!NPM - 下载量!NPM - 版本

设置

LangChain.js 支持两种不同的身份验证方法,基于 您是运行在 Node.js 环境还是 Web 环境中。

要访问 VertexAI 模型,您需要创建一个 Google Cloud Platform (GCP) 账户,获取 API 密钥,并安装 @langchain/google-vertexai 集成包。在 Node.js 上,该包使用 @langchain/google-gauth 进行身份验证(您无需单独安装它)。

凭证

Node.js

您应确保 Vertex AI API 已 为相关项目启用,并且您已通过以下方式之一向 Google Cloud 进行身份验证:

- 您已登录一个账户(使用 gcloud auth application-default login) 允许访问该项目的账户。 - 您正在使用一个被允许 访问该项目的服务账户在机器上运行。 - 您已下载一个被允许 访问该项目的服务账户的凭证,并设置 GOOGLE_APPLICATION_CREDENTIALS 环境 变量指向此文件的路径。 **or** - 您设置了 GOOGLE_API_KEY 环境变量为项目的 API 密钥。

Web

要在 Web 环境(如 Edge 函数)中调用 Vertex AI 模型,您需要安装 然后,在 @langchain/google-vertexai-web package.

中设置您的服务账户凭证 GOOGLE_WEB_CREDENTIALS (或已弃用的 GOOGLE_VERTEX_AI_WEB_CREDENTIALS):

您也可以直接在代码中传递凭证,如下所示:

// Or uncomment this line if you're using the web version:
// import { VertexAI } from "@langchain/google-vertexai-web";

const model = new VertexAI({
  authOptions: {
    credentials: {"type":"service_account","project_id":"YOUR_PROJECT-12345",...},
  },
});

如果您想获取模型调用的自动追踪,还可以通过取消下面的注释来设置您的 LangSmith API 密钥:

# export LANGSMITH_TRACING="true"
# export LANGSMITH_API_KEY="your-api-key"

安装

LangChain VertexAI 集成位于 @langchain/google-vertexai package:

npm install @langchain/google-vertexai @langchain/core
yarn add @langchain/google-vertexai @langchain/core
pnpm add @langchain/google-vertexai @langchain/core

或对于 Web 环境:

npm install @langchain/google-vertexai-web @langchain/core
yarn add @langchain/google-vertexai-web @langchain/core
pnpm add @langchain/google-vertexai-web @langchain/core

实例化

现在我们可以实例化模型对象并生成聊天补全:

const llm = new VertexAI({
  model: "gemini-pro",
  temperature: 0,
  maxRetries: 2,
  // other params...
})

调用

const inputText = "VertexAI is an AI company that "

const completion = await llm.invoke(inputText)
completion
offers a wide range of cloud computing services and artificial intelligence solutions to businesses and developers worldwide.

API 参考

有关所有 VertexAI 功能配置的详细文档,请访问 API 参考.