本页面涵盖 LangChain 与 Hugging Face Hub 以及 transformers, sentence transformers和 datasets.

聊天模型

ChatHuggingFace

我们可以使用 Hugging Face LLM 类或直接使用 ChatHuggingFace class.

查看 使用示例.

from langchain_huggingface import ChatHuggingFace

LLM

HuggingFaceEndpoint

我们可以使用 HuggingFaceEndpoint 类通过无服务器 推理提供者 或通过专用 推理端点.

查看 使用示例.

from langchain_huggingface import HuggingFaceEndpoint

HuggingFacePipeline

我们可以使用 HuggingFacePipeline 类在本地运行开源模型。

查看 使用示例.

from langchain_huggingface import HuggingFacePipeline

嵌入模型

HuggingFaceEmbeddings

我们可以使用 HuggingFaceEmbeddings 类在本地运行开源嵌入模型。

查看 使用示例.

from langchain_huggingface import HuggingFaceEmbeddings

HuggingFaceEndpointEmbeddings

我们可以使用 HuggingFaceEndpointEmbeddings 类通过专用 推理端点.

运行开源嵌入模型。查看 使用示例.

from langchain_huggingface import HuggingFaceEndpointEmbeddings

Text Embeddings Inference (TEI)

对于 Sentence Transformers 模型的自托管生产服务，Hugging Face 发布了 Text Embeddings Inference，一个支持批处理和 GPU 的专用推理服务器。通过 HuggingFaceEndpointEmbeddings 将 LangChain 指向 TEI 部署，或参阅专用 TEI 集成指南.

BGE 嵌入模型

>Hugging Face 上的 BGE 模型 是来自 北京人工智能研究院 (BAAI).

的强大开源嵌入系列。BGE 模型是 Sentence Transformers 模型，因此使用 HuggingFaceEmbeddings 配合 encode_kwargs={"normalize_embeddings": True}。查看 使用示例.