数据保留

本节介绍数据保留的工作原理及其在 LangSmith 中的定价方式。

为什么保留很重要

• * **隐私**：许多数据隐私法规（如欧洲的 GDPR 或加州的 CCPA）要求组织在个人数据不再需要用于收集目的后将其删除。设置保留期有助于遵守此类法规。
• * **成本**：LangSmith 对低数据保留的追踪收取较低费用。更多信息，了解如何 强制执行支出限制.

工作原理

LangSmith 根据数据保留有两个追踪层级，具有以下特征：

保留期结束后的数据删除

在指定的保留期后，追踪将不再可通过追踪项目 UI 或 API 访问。与追踪关联的所有用户数据（例如输入和输出）将在此后一天内从我们的内部系统中删除。与每个追踪关联的某些元数据可能会无限期保留用于分析和计费目的。

数据保留自动升级

当您使用某些功能时 base 层级追踪 extended 层级。这将延长保留期并增加追踪成本。

追踪将升级的完整场景列表：

• * **反馈** 被添加到追踪中的任何运行（或线程中的任何追踪）时，无论是通过 手动注释，还是通过以下方式自动进行 在线评估器，或以编程方式 通过 SDK.
• * An **注释队列** 接收来自追踪的任何运行。
• * An **自动化规则** 匹配追踪内的任何运行。

为什么要自动升级追踪？

我们采用追踪自动升级模式有两个原因：

1. 我们认为，符合这些条件的追踪从根本上比其他追踪更有趣，因此让用户能够更长时间地保留它们是有益的。
2. 从理念上讲，我们希望对可能没有实质性交互的追踪收取低一个数量级的费用。我们认为自动升级使我们的定价模式与 LangSmith 带来的价值保持一致，只有具有实质性交互的追踪才会以更高费率收费。

如果您对我们的定价模式有疑问或顾虑，请通过以下方式联系支持团队 support.langchain.com 告诉我们您的想法！

数据保留如何影响下游功能？

• * **注释队列、运行规则和反馈**：使用这些功能的追踪将被 auto-upgraded.
• * **监控**：即使基础层追踪的数据保留期结束，监控标签页仍将继续工作。它由存在超过 30 天的追踪元数据提供支持，这意味着您的监控图表即使在 base 层追踪上也将保持准确。
• * **数据集**：数据集具有无限的数据保留期。换言之，如果您将追踪的输入和输出添加到数据集中，它们永远不会被删除。我们建议，如果您使用 LangSmith 进行数据收集，请利用数据集功能。

计费模式

计费指标

在您的 LangSmith 发票上，您将看到我们收费的两个指标：

• * LangSmith 追踪（基础费用）
• * LangSmith 追踪（扩展数据保留升级）。

第一个指标包括所有追踪，不分层级。第二个指标仅计算扩展保留追踪的数量。

为什么要计量所有追踪 + 升级，而不是基础和扩展追踪？

在考虑我们的定价时，一个很自然的问题是为什么不直接在发票上显示 base 层和 extended 层追踪的数量？

虽然我们理解这会更直接，但它并不能很好地适应追踪升级的情况。假设一个 base 层追踪在 6 月 30 日被记录，然后在 7 月 3 日被升级到 extended 层。该 base 层追踪发生在 6 月计费周期，但升级发生在 7 月计费周期。因此，我们需要能够独立计量这两个事件，以便正确地向客户收费。

如果您的追踪被记录为扩展保留追踪，那么 base 和 extended 指标都将使用相同的时间戳记录。

成本细分

追踪的基础费用为每个追踪 0.05¢。我们如此定价升级，使得 extended 保留追踪的成本是基础层追踪价格的 10 倍（包括两个指标，每个追踪 0.50¢）。因此，每次升级的费用为 0.45¢。

速率限制

LangSmith 有速率限制，旨在确保所有用户服务的稳定性。

为确保访问和稳定性，在以下情况下 LangSmith 将返回 HTTP 状态码 429，表明已超出速率或使用限制：

在我们的应用负载均衡器上，1 分钟内的临时吞吐量限制

此 429 是因为在每个服务密钥或 PAT 的 1 分钟窗口内超过了固定数量的 API 调用。窗口的开始时间会略有不同——不能保证在时钟分钟的整分钟开始——并且可能会根据应用程序部署事件而变化。

收到最大事件数后，我们将返回 429，直到从评估窗口开始达到 60 秒，然后重复此过程。

此 429 由我们的应用程序负载均衡器抛出，是一种适用于所有 LangSmith 用户的机制，与计划层级无关，以确保所有用户的服务连续性。

按计划级别的每小时追踪事件限制

此 429 是因为达到了每小时的摄入最大事件数，并在从 UTC 每个时钟小时开始时的固定窗口中进行评估，在每个新小时开始时重置。

此上下文中的事件是运行的创建或更新。如果在同一个每小时窗口内创建了一个运行并随后更新了它，则该运行计为该限制下的 2 个事件。

This is thrown by our application and varies by plan tier, with organizations on our Startup/Plus and Enterprise plan tiers having higher hourly limits than our Free and Developer Plan Tiers which are designed for personal use.

按计划级别的每小时追踪数据摄入限制

此 429 是因为达到了跨您追踪输入、输出和元数据的最大摄入数据量，并在从 UTC 每个时钟小时开始时的固定窗口中进行评估，在每个新小时开始时重置。

通常，输入、输出和元数据会在运行创建和更新事件上同时发送。如果在同一个每小时窗口内创建了一个大小为 2.0MB 的运行并更新为 3.0MB，则计为该限制下的 5.0MB 存储。

This is thrown by our application and varies by plan tier, with organizations on our Startup/Plus and Enterprise plan tiers having higher hourly limits than our Free and Developer Plan Tiers which are designed for personal use.

按计划级别的每月唯一追踪限制

此 429 是因为达到了每月的最大追踪摄入量，并在从 UTC 每个日历月开始时的固定窗口中进行评估，在每个新月份开始时重置。

此错误由我们的应用程序抛出，仅适用于没有付款方式在案的 Developer 计划层级。

自行配置的每月使用限制

此 429 是达到组织管理员配置的使用限制的结果，并在 UTC 时间每月日历月初开始的固定时间窗口内进行评估，在每个新月初重置。

此错误由我们的应用程序抛出，并因组织的配置设置而异。

每个追踪的最大运行次数

运行查询端点

该 POST /runs/query 端点具有基于查询参数的额外每租户速率限制。请参阅 使用 SDK 查询追踪 了解详情。

在您的应用程序中处理 429 响应

由于某些 429 响应是临时的，后续调用可能会成功，因此如果您直接在应用程序中调用 LangSmith API，建议使用指数退避和抖动实现重试逻辑。

为方便起见，使用 LangSmith SDK 构建的 LangChain 应用程序内置了此功能。

使用限制

LangSmith 允许您配置追踪使用限制。请注意，这些是 *使用* 限制，而不是 *消费* 限制，这意味着它们允许您限制某些事件的发生次数，而不是您将花费的总金额。

LangSmith 允许您设置两个不同的月度限制，与前述数据保留指南中讨论的计费指标相对应：

• * 所有追踪限制
• * 扩展数据保留追踪限制

这些限制分别允许您限制总追踪数量和扩展数据保留追踪数量。

使用限制的特性

使用限制是近似的，这意味着我们不保证限制的精确性。在极少数情况下，在使用限制开始生效之前，可能会有很短的一段时间内处理超出限制阈值的额外追踪。

扩展数据保留追踪限制的副作用

扩展数据保留追踪限制有副作用。如果已达到限制，任何可能导致追踪层级自动升级的功能都将变得不可访问。这是因为追踪的自动升级会创建另一个扩展保留追踪，而这反过来不应被限制允许。因此，您将无法再：

1. 匹配运行规则
2. 为追踪添加反馈
3. 将运行添加到注释队列

这些功能中的每一个都可能导致自动升级，因此当达到限制时我们会关闭它们。

更新使用限制

使用限制可以从 Settings 页面的 Usage and Billing下更新。限制值会被缓存，因此可能需要一两分钟新限制才会生效。

相关内容

• * 教程：如何 强制执行消费限制