以编程方式使用文档

Weaviate 是一个开源向量数据库,存储对象和向量,支持将向量搜索与结构化过滤相结合。LangChain 通过 weaviate-client 包(Weaviate 官方 TypeScript 客户端)连接到 Weaviate。

本指南概述了 Weaviate 向量存储的快速入门方法 向量存储。有关所有 WeaviateStore 功能和配置的详细文档,请前往 API 参考.

概述

集成详情

PY 支持下载量版本
WeaviateStore@langchain/weaviate!NPM - 下载量!NPM - 版本

设置

要使用 Weaviate 向量存储,请设置 Weaviate 实例并安装 @langchain/weaviate, @langchain/coreweaviate-client 来连接到您的部署。

本指南使用 OpenAI 嵌入 作为示例。您可以使用 其他支持的嵌入模型 instead.

npm install @langchain/weaviate @langchain/core weaviate-client @langchain/openai
yarn add @langchain/weaviate @langchain/core weaviate-client @langchain/openai
pnpm add @langchain/weaviate @langchain/core weaviate-client @langchain/openai

在本地或服务器上运行 Weaviate。请参阅 Weaviate 文档 了解更多。

凭证

设置以下环境变量:

// If running locally, include port e.g. "localhost:8080"
process.env.WEAVIATE_URL = "YOUR_WEAVIATE_URL";
// Optional, for cloud deployments
process.env.WEAVIATE_API_KEY = "YOUR_API_KEY";

如果您在本指南中使用 OpenAI 嵌入,还需要设置您的 OpenAI 密钥:

process.env.OPENAI_API_KEY = "YOUR_API_KEY";

如果您想获取模型调用的自动追踪,还可以设置您的 LangSmith API 密钥,取消下面的注释:

// process.env.LANGSMITH_TRACING="true"
// process.env.LANGSMITH_API_KEY="your-api-key"

实例化

连接 Weaviate 客户端

在大多数情况下,您应该使用连接辅助函数之一来连接到您的 Weaviate 实例:

  • - connectToWeaviateCloud
  • - connectToLocal
  • - connectToCustom
  dataType,
  Filters,
  generativeParameters,
  vectorizer,
} from "weaviate-client";

const embeddings = new OpenAIEmbeddings({
  model: "text-embedding-3-small",
});

const weaviateClient = await weaviate.connectToWeaviateCloud(
  process.env.WEAVIATE_URL!,
  {
    authCredentials: new weaviate.ApiKey(process.env.WEAVIATE_API_KEY || ""),
    headers: {
      "X-OpenAI-Api-Key": process.env.OPENAI_API_KEY || "",
      "X-Cohere-Api-Key": process.env.COHERE_API_KEY || "",
    },
  },
);

初始化 vectorStore

要创建集合,请至少指定集合名称。如果您不指定任何属性, auto-schema 会创建它们。

let vectorStore = new WeaviateStore(embeddings, {
  client: weaviateClient,
  indexName: "Langchainjs_test",
});

要使用 Weaviate 的命名向量、向量化器、重排序器、生成式模型等,请在启用向量存储时使用 schema 属性。在创建向量存储时, schema 中指定的集合名称和其他属性将优先。

vectorStore = new WeaviateStore(embeddings, {
  client: weaviateClient,
  schema: {
    name: "Langchainjs_test",
    description: "A simple dataset",
    properties: [
      {
        name: "title",
        dataType: dataType.TEXT,
      },
      {
        name: "foo",
        dataType: dataType.TEXT,
      },
    ],
    vectorizers: [
      vectorizer.text2VecOpenAI({
        name: "title",
        sourceProperties: ["title"], // (Optional) Set the source property(ies)
        // vectorIndexConfig: configure.vectorIndex.hnsw()   // (Optional) Set the vector index configuration
      }),
    ],
    generative: weaviate.configure.generative.openAI(),
    reranker: weaviate.configure.reranker.cohere(),
  },
});

管理向量存储

向向量存储添加内容

Note: 如果要向索引文档关联 ID,这些 ID 必须是 UUID。

const document1: Document = {
  pageContent: "The powerhouse of the cell is the mitochondria",
  metadata: { source: "https://example.com" }
};

const document2: Document = {
  pageContent: "Buildings are made out of brick",
  metadata: { source: "https://example.com" }
};

const document3: Document = {
  pageContent: "Mitochondria are made out of lipids",
  metadata: { source: "https://example.com" }
};

const document4: Document = {
  pageContent: "The 2024 Olympics are in Paris",
  metadata: { source: "https://example.com" }
}

const documents = [document1, document2, document3, document4];
const uuids = [crypto.randomUUID(), crypto.randomUUID(), crypto.randomUUID(), crypto.randomUUID()];

await vectorStore.addDocuments(documents, { ids: uuids });
[
  '610f9b92-9bee-473f-a4db-8f2ca6e3442d',
  '995160fa-441e-41a0-b476-cf3785518a0d',
  '0cdbe6d4-0df8-4f99-9b67-184009fee9a2',
  '18a8211c-0649-467b-a7c5-50ebb4b9ca9d'
]

从向量存储删除内容

您可以通过 ID 删除或传入 filter parameter:

await vectorStore.delete({ ids: [uuids[3]] });

查询向量存储

一旦您的向量存储已创建并添加了相关文档,您很可能希望在运行链或代理时对其进行查询。 在 weaviate 的 v3 版本中,客户端与 collections 交互作为在数据库中操作对象的主要方式。 collection 对象可以在整个代码库中重复使用

直接查询

执行简单的相似性搜索可以如下进行。 Filter 辅助类使使用带条件的过滤器更加容易。v3 客户端简化了 Filter 的使用方式,使您的代码更简洁。

参见 此页面 了解更多 Weaviate 过滤语法。

const collection = weaviateClient.collections.use("Langchainjs_test");

const filter = Filters.and(collection.filter.byProperty("source").equal("https://example.com"))

const similaritySearchResults = await vectorStore.similaritySearch("biology", 2, filter);

for (const doc of similaritySearchResults) {
  console.log(`* ${doc.pageContent} [${JSON.stringify(doc.metadata, null)}]`);
}
* The powerhouse of the cell is the mitochondria [{"source":"https://example.com"}]
* Mitochondria are made out of lipids [{"source":"https://example.com"}]

如果您想执行相似性搜索并获取相应的分数,可以运行:

const similaritySearchWithScoreResults = await vectorStore.similaritySearchWithScore("biology", 2, filter)

for (const [doc, score] of similaritySearchWithScoreResults) {
  console.log(`* [SIM=${score.toFixed(3)}] ${doc.pageContent} [${JSON.stringify(doc.metadata)}]`);
}
* [SIM=0.835] The powerhouse of the cell is the mitochondria [{"source":"https://example.com"}]
* [SIM=0.852] Mitochondria are made out of lipids [{"source":"https://example.com"}]

混合搜索

在 Weaviate 中, Hybrid search 通过融合两个结果集来结合向量搜索和关键词(BM25F)搜索的结果。要更改关键词和向量组件的相对权重,请在查询中设置 alpha 的值。

查看 **文档** 获取混合搜索选项的完整列表。

const results = await vectorStore.hybridSearch("biology",
  {
    limit: 1,
    alpha: 0.25,
    targetVector: ["title"],
    rerank: {
      property: "title",
      query: "greeting",
    },
});

检索增强生成 (RAG)

检索增强生成 (RAG) 将信息检索与生成式 AI 模型相结合。

在 Weaviate 中,RAG 查询由两部分组成:搜索查询和模型提示。Weaviate 首先执行搜索,然后将搜索结果和您的提示一起传递给生成式 AI 模型,最后返回生成的响应。

  • - @param query 要搜索的查询。
  • - @param options 执行混合搜索的可用选项
  • - @param generate 生成的可用选项。查看文档获取完整列表
const results = await vectorStore.generate("hello world",
    {
        singlePrompt: {
            prompt: "Translate this into German: {title}",
        },
        config: generativeParameters.openAI({
            model: "gpt-3.5-turbo",
        }),
    },
    {
        limit: 2,
        targetVector: ["title"],
    }
);

通过转换为检索器进行查询

您也可以将向量存储转换为 检索器 以便在链中更方便地使用。

const retriever = vectorStore.asRetriever({
  // Optional filter
  filter: filter,
  k: 2,
});
await retriever.invoke("biology");
[
  Document {
    pageContent: 'The powerhouse of the cell is the mitochondria',
    metadata: { source: 'https://example.com' },
    id: undefined
  },
  Document {
    pageContent: 'Mitochondria are made out of lipids',
    metadata: { source: 'https://example.com' },
    id: undefined
  }
]

用于检索增强生成的用法

有关如何将此向量存储用于检索增强生成 (RAG) 的指南,请参阅以下部分:

API 参考

有关所有 WeaviateStore 功能和配置的详细文档,请访问 API 参考.