自托管 LangSmith Deployment 运行 Agent Server、控制平面、数据平面和支持数据库,运行在您操作的基础设施中。
LangChain 提供容器镜像、Helm charts 和许可证;您提供 Kubernetes 集群(或 Docker 主机)、PostgreSQL、Redis 以及适合您环境的网络和可观测性工具。当您有数据驻留需求、监管约束、自定义网络或气隙隔离要求时,自托管是最佳的部署选择。
拓扑结构
LangSmith 支持三种自托管拓扑结构,在设置复杂性和控制平面功能之间进行权衡。关于 平台功能 和 诊断 的参考页面适用于所有三种拓扑。
Full self-hosted platform
完整的 LangSmith 平台——控制平面 UI 和 API、 数据平面 监听器、可观测性、评估和代理部署管理。适合希望在自有网络中获得 LangSmith 产品体验的团队。
Hybrid
LangChain 托管的控制平面,数据平面(Agent Servers 和数据库)位于您的基础设施中。当您需要托管的部署工作流,但希望代理工作负载和客户数据保留在您的 VPC 内部时,这是最佳选择。
Standalone server
最轻量级的选项——Agent Server 容器(API + 队列工作器)配合您自己的 PostgreSQL 和 Redis。无控制平面,无托管 UI。最适合将运行时嵌入到现有基础设施中或运行气隙隔离环境。
Platform features
自托管专用平台行为参考:自定义 Postgres 和 Redis、监听器和资源定制。
Diagnostics
收集日志、检查状态并排查自托管安装问题。
谁管理什么
自托管将基础设施运营的所有权从 LangChain 转移到您的团队,这为您配置和运营各层的方式提供了灵活性。
| **谁管理** | **在哪里运行** | |
|---|---|---|
| LangSmith 平台(UI、API、数据存储) | 您 | 您的基础设施 |
| Agent Server 运行时 | 您 | 您的基础设施 |
| PostgreSQL 和 Redis | 您 | 您的基础设施 |
| CI/CD for your apps | You | Your CI environment |
| 升级、扩展和备份 | 您 | 您的基础设施 |
作为回报,您可以集成您自己的 Postgres 和 Redis,调整 CPU 和内存 用于您的工作负载,并在您现有的网络和可观测性堆栈中运行。对于对应的云托管模型,请参阅 部署到云端.
后续步骤
Pick a topology
比较独立服务器、完整平台和混合部署,找到最合适的方案。
Install the full platform
在 Kubernetes 上部署 LangSmith,包含控制平面和数据平面。