流式、后台任务与 Webhooks

流式降低感知延迟

流式响应让应用在完整结果生成前处理事件，适合聊天和交互界面。客户端必须按事件类型处理增量，而不是假设每个数据块都是完整文本。

用户取消时要终止下游处理。流式传输结束后仍要保存最终状态和用量，不能只拼接界面上看到的字符。

• 处理连接中断与重复事件。
• 区分文本增量、工具事件和完成事件。
• 对前端输出做安全渲染。
• 记录首字延迟和总延迟。

后台模式和 Webhooks

长时间推理可以使用后台模式，应用提交请求后通过状态查询或 Webhooks 得知完成。Webhook 接收端必须验证签名，并对重复投递保持幂等。

处理函数应快速确认接收，把耗时工作放到队列。事件中只使用可信标识，再通过服务端 API 获取和验证完整状态。