以编程方式使用文档

构建于 Agent Server 运行时之上,这些能力涵盖运行如何进行流式输出、暂停、暴露端点以及对事件做出反应:

Streaming API

使用 LangGraph SDK 实时流式输出您部署的代理的输出。

Human-in-the-loop

暂停代理执行以便在继续之前审查、编辑或批准工具调用。

Time travel

从任何先前的状态重放代理运行以进行调试或探索替代路径。

MCP endpoint

将您的代理公开为 MCP 工具,可被任何符合 MCP 标准的客户端访问。

A2A endpoint

使用 A2A 协议启用代理间通信。

Distributed tracing

从外部应用程序调用 Agent Server 时统一跨服务的追踪。

Webhooks

响应您部署的代理的运行事件来触发外部系统。

Double-texting

控制 Agent Server 在运行已经进行时如何处理新消息。

持久化执行

LangSmith Deployment 的核心是一个持久化执行引擎。您的代理运行在托管任务队列上并带有自动检查点功能,因此任何运行都可以从中断的确切点重试、重放或恢复,而不是从头开始。

由于执行是持久化的,代理可以执行在无状态运行时中脆弱或不可能的操作:

  • 等待外部输入。 代理调用 interrupt() 运行时检查点保存其状态,释放资源,并等待人工批准交易、审查者编辑草稿或其他系统返回结果。当 Command(resume=...) 在数小时或数天后到达时,执行会从停止的确切位置恢复。这是 human-in-the-loop 工作流和 时间旅行调试.
  • 在后台运行。 后台运行 执行不会阻塞调用者。运行时管理完整的生命周期(排队、执行、检查点、完成),而客户端继续执行。
  • 按计划运行。 Cron 任务 按重复周期触发代理执行。每日摘要代理、每周报告、定期数据同步。运行时以相同的持久化保证按计划启动新的执行。
  • 处理并发输入。 当用户在代理运行中时发送新输入(double-texting),运行时可以将其加入队列、取消进行中的运行,或并行处理两者而不会出现数据竞争或状态损坏。
  • 失败时重试。 可配置的 重试策略 控制退避时间、最大尝试次数以及哪些异常会触发重试,可按节点配置。运行可以在进程重启、基础设施故障和执行中代码修订后继续运行。

有关容器、进程和任务队列如何协同工作的详细信息,请参阅 Agent Server:运行时架构。有关扩展和吞吐量调优,请参阅 为扩展配置 Agent Server.