该 _数据平面_ 由您的 Agent 服务器 （部署）及其支持基础设施，以及持续轮询以获取更新信息的"监听器"应用程序组成 LangSmith 控制平面.

服务器基础设施

除 Agent 服务器 本身外，每个服务器的以下基础设施组件也包含在广义的"数据平面"定义中：

• PostgreSQL：用户、运行和内存数据的持久化层。
• Redis：工作线程的通信和临时元数据。
• 密钥存储：环境密钥的安全管理。
• 自动扩缩容器：根据负载扩展服务器容器。

“监听器”应用程序

数据平面"监听器"应用程序定期调用 控制平面 API to:

• * 确定是否应创建新部署。
• * 确定是否应更新现有部署（即新版本）。
• * 确定是否应删除现有部署。

换句话说，数据平面"监听器"读取控制平面的最新状态（期望状态）并采取行动将现有部署（当前状态）协调至最新状态。

PostgreSQL

PostgreSQL 存储服务器资源（线程、运行、助手、计划任务）以及保存在 长期记忆存储中的项目。它也是 检查点 （图执行状态）的默认后端。您也可以选择将检查点存储在 MongoDB 中——请参阅 配置检查点后端。无论检查点后端如何配置，PostgreSQL 始终是必需的。

Redis

Redis 在每个 Agent 服务器中用作服务器和队列工作线程之间的通信方式，并存储临时元数据。用户或运行数据不会存储在 Redis 中。

通信

Agent 服务器中的所有运行都由作为每个部署一部分的后台工作线程池执行。为了启用这些运行的一些功能（如取消和输出流式传输），我们需要在服务器和处理特定运行的工作线程之间建立双向通信通道。我们使用 Redis 来组织这种通信。

1. Redis 列表用作在新运行创建时立即唤醒工作线程的机制。此列表中仅存储一个哨兵值，不存储任何实际运行信息。运行信息由工作线程从 PostgreSQL 中检索。
2. Redis 字符串和 Redis PubSub 通道的组合用于服务器向相应工作线程传达运行取消请求。
3. Redis PubSub 通道用于工作线程在处理运行时分发代理的流式输出。任何打开的 /stream 服务器中的请求将订阅该频道，并将事件在到达时转发到响应中。Redis 中不会存储任何事件。

临时元数据

Agent Server 中的运行可能会针对特定失败进行重试（目前仅针对运行期间遇到的临时 PostgreSQL 错误）。为了限制重试次数（目前限制为每次运行 3 次尝试），我们在拾取运行时将尝试次数记录在 Redis 字符串中。这不包含任何特定于运行的信息，仅包含其 ID，并在短暂延迟后过期。

数据平面功能

本节介绍数据平面的各种功能。关于平台特定行为，请参阅 云平台功能 or 部署到自托管.

自动扩缩容

Production 类型 部署自动扩展最多 10 个容器。扩缩容基于 3 个指标：

1. CPU 利用率
2. 内存利用率
3. 待处理（进行中）运行数 运行

对于 CPU 利用率，自动扩缩器以 75% 利用率为目标。这意味着自动扩缩器将向上或向下扩展容器数量，以确保 CPU 利用率接近或达到 75%。对于内存利用率，自动扩缩器同样以 75% 利用率为目标。

For number of pending runs, the autoscaler targets 10 pending runs. For example, if the current number of containers is 1, but the number of pending runs is 20, the autoscaler will scale up the deployment to 2 containers (20 pending runs / 2 containers = 10 pending runs per container).

每个指标独立计算，自动扩缩器将根据导致最大容器数量的指标来确定扩缩操作。

这些指标并非适用于所有容器类型。 队列工作器 基于待处理运行数进行扩缩容——当积压增加时，会启动更多工作器来消化它。 API 服务器 基于 CPU 和内存进行扩缩容，响应客户端请求量。这意味着运行提交的高峰不会减慢获取线程状态等读取操作。关于自托管配置详情，请参阅 配置 Agent Server 以实现扩缩容.

缩减操作会延迟 30 分钟后才执行。换句话说，如果自动扩缩器决定缩减部署，它将首先等待 30 分钟，然后再进行缩减。30 分钟后，将重新计算指标，如果重新计算的指标得出的容器数量低于当前数量，则部署将缩减。否则，部署将保持扩展状态。这个"冷却"期确保部署不会过于频繁地扩展和缩减。

MongoDB 检查点

您可以使用 MongoDB 作为检查点存储的替代后端。配置后，MongoDB 仅处理检查点数据——PostgreSQL 仍需要用于所有其他服务器资源。

请参阅 配置检查点后端 了解设置说明。

LangSmith 追踪

Agent Server 自动配置为向 LangSmith 发送追踪。请参阅下表了解每种部署选项的详细信息。

遥测

Agent Server 会自动配置为报告用于计费的遥测元数据。有关各部署选项的详细信息，请参见下表。

许可

Agent Server 会自动配置为执行许可证密钥验证。有关各部署选项的详细信息，请参见下表。