以编程方式使用文档

>LocalAI 是免费的、开源的 OpenAI 替代方案。 > LocalAI 充当与 OpenAI API 兼容的即插即用 REST API > 规范,用于本地推理。它允许您运行 LLM、生成图像, > 音频(不仅限于此),在本地或企业内部使用消费级硬件运行, > 支持多种模型系列和架构。

安装和设置

pip install langchain-localai
uv add langchain-localai

嵌入模型

查看 使用示例.

重排器

查看 使用示例.