构建于 Agent Server 运行时之上,这些能力涵盖运行如何进行流式输出、暂停、暴露端点以及对事件做出反应:
Streaming API
使用 LangGraph SDK 实时流式输出您部署的代理的输出。
Human-in-the-loop
暂停代理执行以便在继续之前审查、编辑或批准工具调用。
Time travel
从任何先前的状态重放代理运行以进行调试或探索替代路径。
MCP endpoint
将您的代理公开为 MCP 工具,可被任何符合 MCP 标准的客户端访问。
A2A endpoint
使用 A2A 协议启用代理间通信。
Distributed tracing
从外部应用程序调用 Agent Server 时统一跨服务的追踪。
Webhooks
响应您部署的代理的运行事件来触发外部系统。
Double-texting
控制 Agent Server 在运行已经进行时如何处理新消息。
持久化执行
LangSmith Deployment 的核心是一个持久化执行引擎。您的代理运行在托管任务队列上并带有自动检查点功能,因此任何运行都可以从中断的确切点重试、重放或恢复,而不是从头开始。
由于执行是持久化的,代理可以执行在无状态运行时中脆弱或不可能的操作:
- 等待外部输入。 代理调用
interrupt()运行时检查点保存其状态,释放资源,并等待人工批准交易、审查者编辑草稿或其他系统返回结果。当Command(resume=...)在数小时或数天后到达时,执行会从停止的确切位置恢复。这是 human-in-the-loop 工作流和 时间旅行调试. - 在后台运行。 后台运行 执行不会阻塞调用者。运行时管理完整的生命周期(排队、执行、检查点、完成),而客户端继续执行。
- 按计划运行。 Cron 任务 按重复周期触发代理执行。每日摘要代理、每周报告、定期数据同步。运行时以相同的持久化保证按计划启动新的执行。
- 处理并发输入。 当用户在代理运行中时发送新输入(double-texting),运行时可以将其加入队列、取消进行中的运行,或并行处理两者而不会出现数据竞争或状态损坏。
- 失败时重试。 可配置的 重试策略 控制退避时间、最大尝试次数以及哪些异常会触发重试,可按节点配置。运行可以在进程重启、基础设施故障和执行中代码修订后继续运行。
有关容器、进程和任务队列如何协同工作的详细信息,请参阅 Agent Server:运行时架构。有关扩展和吞吐量调优,请参阅 为扩展配置 Agent Server.