在您自己的基础设施中托管 LangSmith 实例，用于 可观测性, 评估和 提示词工程。您可以选择启用 LangSmith Deployment 来通过 LangSmith UI 部署和管理代理。
包含内容
自托管 LangSmith 实例包括：
Services: - LangSmith 前端 UI - LangSmith 后端 API - LangSmith Platform 后端 - LangSmith Playground - LangSmith 队列 - LangSmith ACE（任意代码执行）后端
存储服务： - ClickHouse（追踪和反馈数据） - PostgreSQL（运营数据） - Redis（队列和缓存） - Blob 存储（可选，但建议用于生产环境）
要访问 LangSmith UI 和发送 API 请求，您需要暴露 LangSmith 前端 服务。根据您的安装方式，这可以是负载均衡器或主机上暴露的端口。
服务
| 服务 | 描述 |
|---|---|
| <a id="langsmith-frontend"></a> **LangSmith 前端** | 前端使用 Nginx 来提供 LangSmith UI 并将 API 请求路由到其他服务器。这是应用程序的入口点，也是唯一必须暴露给用户的组件。 |
| <a id="langsmith-backend"></a> **LangSmith 后端** | 后端是 CRUD API 请求的主要入口点，处理应用程序的大部分业务逻辑。这包括处理来自前端和 SDK 的请求、准备用于摄取的追踪，以及支持 hub API。 |
| <a id="langsmith-queue"></a> **LangSmith 队列** 队列处理传入的跟踪和反馈，确保它们被异步地摄取并持久化到跟踪和反馈数据存储中，处理数据完整性检查并确保成功插入数据存储，在数据库错误或暂时无法连接到数据库等情况下处理重试。 | |
| <a id="langsmith-platform-backend"></a> **LangSmith 平台后端** 平台后端是另一个关键服务，主要处理身份验证、运行摄取和其他高容量任务。 | |
| <a id="langsmith-playground"></a> **LangSmith Playground** Playground 是一个处理向各种 LLM API 转发请求的服务，以支持 Playground 功能。这也可用于连接您自己的自定义模型服务器。 | |
| <a id="langsmith-ace-arbitrary-code-execution-backend"></a> **LangSmith ACE（任意代码执行）后端** ACE 后端是一个在安全环境中处理执行任意代码的服务。这用于支持在 LangSmith 中运行自定义代码。 |
存储服务
| 服务 | 描述 |
|---|---|
| <a id="clickhouse"></a> **ClickHouse** | ClickHouse 是一个高性能的列式 SQL 数据库管理系统（DBMS），用于在线分析处理（OLAP）。<br/><br/>LangSmith 使用 ClickHouse 作为跟踪和反馈（高容量数据）的主要数据存储。<br/><br/>💡 连接到外部 ClickHouse |
| <a id="postgresql"></a> **PostgreSQL** | PostgreSQL 是一个强大的开源对象关系数据库系统，使用并扩展了 SQL 语言，结合了许多功能，可以安全地存储和扩展最复杂的数据工作负载。<br/><br/>LangSmith 使用 PostgreSQL 作为事务工作负载和操作数据（除跟踪和反馈之外的所有内容）的主要数据存储。<br/><br/>💡 连接到外部 PostgreSQL - AWS RDS、GCP Cloud SQL、Azure Database |
| <a id="redis"></a> **Redis / Valkey** | Redis 是一个强大的内存键值数据库，会持久化到磁盘。通过将数据保存在内存中，Redis 为缓存等操作提供了高性能。<br/><br/>LangSmith 使用 Redis 来支持队列和缓存操作。 Valkey 也被官方支持作为 Redis 的替代品。<br/><br/>💡 连接到外部 Redis 或 Valkey - AWS ElastiCache、GCP Memorystore、Azure Cache |
| <a id="blob-storage"></a> **Blob 存储** | LangSmith 支持多种 blob 存储提供商，包括 AWS S3, Azure Blob 存储和 Google Cloud 存储.<br/><br/>LangSmith 使用 blob 存储来存储大文件，如跟踪工件、反馈附件和其他大型数据对象。Blob 存储是可选的，但强烈建议用于生产部署。<br/><br/>💡 启用 blob 存储 - AWS S3、GCP GCS、Azure Blob |
要安装，请按照 Kubernetes 设置指南.
后续步骤
- - **启用 LangSmith 部署**: 添加一个 控制平面 和 数据平面 通过 LangSmith UI 部署和管理代理。
- - **部署独立 Agent 服务器**: 无需启用 LangSmith 部署，直接部署 Agent 服务器。