以编程方式使用文档

如果您在 Cloudflare Worker 中部署项目,可以使用 Cloudflare Vectorize 与 LangChain.js 配合使用。 这是一个强大且便捷的选项,直接内置于 Cloudflare 中。

设置

之后 设置您的项目, 通过运行以下 Wrangler 命令创建索引:

$ npx wrangler vectorize create <index_name> --preset @cf/baai/bge-small-en-v1.5

您可以在 vectorize 命令中查看完整的选项列表 官方文档.

然后您需要更新您的 wrangler.toml 文件以包含 [[vectorize]]:

[[vectorize]]
binding = "VECTORIZE_INDEX"
index_name = "<index_name>"

最后,您需要安装 LangChain Cloudflare 集成包:

npm install @langchain/cloudflare @langchain/core
yarn add @langchain/cloudflare @langchain/core
pnpm add @langchain/cloudflare @langchain/core

用法

以下是一个示例 Worker,根据使用的路径向向量存储添加文档、查询或清除文档。它还使用 Cloudflare Workers AI 嵌入.

name = "langchain-test"
main = "worker.ts"
compatibility_date = "2024-01-10"

[[vectorize]]
binding = "VECTORIZE_INDEX"
index_name = "langchain-test"

[ai]
binding = "AI"
// @ts-nocheck

  VectorizeIndex,
  Fetcher,
  Request,
} from "@cloudflare/workers-types";

  CloudflareVectorizeStore,
  CloudflareWorkersAIEmbeddings,
} from "@langchain/cloudflare";

  VECTORIZE_INDEX: VectorizeIndex;
  AI: Fetcher;
}

  async fetch(request: Request, env: Env) {
    const { pathname } = new URL(request.url);
    const embeddings = new CloudflareWorkersAIEmbeddings({
      binding: env.AI,
      model: "@cf/baai/bge-small-en-v1.5",
    });
    const store = new CloudflareVectorizeStore(embeddings, {
      index: env.VECTORIZE_INDEX,
    });
    if (pathname === "/") {
      const results = await store.similaritySearch("hello", 5);
      return Response.json(results);
    } else if (pathname === "/load") {
      // Upsertion by id is supported
      await store.addDocuments(
        [
          {
            pageContent: "hello",
            metadata: {},
          },
          {
            pageContent: "world",
            metadata: {},
          },
          {
            pageContent: "hi",
            metadata: {},
          },
        ],
        { ids: ["id1", "id2", "id3"] }
      );

      return Response.json({ success: true });
    } else if (pathname === "/clear") {
      await store.delete({ ids: ["id1", "id2", "id3"] });
      return Response.json({ success: true });
    }

    return Response.json({ error: "Not Found" }, { status: 404 });
  },
};

您还可以传递 filter 参数以按之前加载的元数据进行过滤。 请参阅 官方文档 了解所需格式的信息。

相关资源