以编程方式使用文档

仪表板为您提供关于您的 追踪 数据的高级洞察,帮助您发现趋势并监控应用程序的健康状况。仪表板可在 **监控** 中的 LangSmith UI.

LangSmith 提供两种仪表板类型:

  • 预构建仪表板:为每个追踪项目自动生成。
  • 自定义仪表板:完全可配置的图表集合,根据您的需求定制。

预构建仪表板

预构建仪表板为每个项目自动创建,涵盖基本指标,例如追踪数量、错误率、令牌使用量等。默认情况下,您可以使用追踪项目页面右上角的 **仪表板** 按钮访问预构建仪表板。

仪表板部分

预构建仪表板分为以下几个部分:

部分显示内容
追踪追踪数量、延迟和错误率。 追踪 是单个操作相关的 运行 集合。例如,如果用户请求触发了代理,则该代理调用的所有运行将成为同一追踪的一部分。
LLM 调用LLM 调用数量和延迟。包括运行类型为 "llm" 的所有运行。
成本和令牌按令牌类型细分的总令牌数和每追踪令牌数及成本。成本使用 LangSmith 的成本追踪.
工具按工具名称细分的运行数量、错误率和延迟统计。包括运行类型为 "tool" 的运行。限制为前 5 个最频繁出现的工具。
运行类型根运行直接子运行的运行数量、错误率和延迟统计。这有助于理解代理的高级执行路径。限制为前 5 个最频繁出现的运行名称。
反馈分数前 5 个最频繁出现的反馈类型的聚合统计。图表显示数值反馈的平均分数和分类反馈的类别计数。

分组依据

您可以使用 运行标签或元数据 按对您的应用程序重要的属性拆分数据。全局分组设置显示在仪表板右上角。请注意 **工具** 和 **运行类型** 图表已经应用了分组,因此全局分组不会生效。全局分组将应用于所有其他图表。

自定义仪表板

创建定制化的图表集合,用于追踪对您的应用程序最重要的指标。

创建新仪表板

  1. 导航到 **监控** 左侧边栏中的标签页。
  2. 点击 **+ 新建仪表板** button.
  3. 为您的仪表板命名并添加描述。
  4. 点击 **创建**.

向仪表板添加图表

  1. 在仪表板中,点击 **+ 新建图表** 按钮打开图表创建窗格。
  2. 为您的图表命名并添加描述。
  3. 配置图表。

图表配置

选择追踪项目并筛选运行

  • - 选择一个或多个追踪项目来追踪指标。
  • - 使用 **图表筛选器** 部分来优化匹配的运行。此筛选器适用于图表中的所有数据系列。更多信息,请参阅 应用程序中的追踪筛选.

选择指标

  • - 从下拉菜单中选择一个指标来设置图表的 y 轴。选择项目和一个指标后,您将看到图表预览和匹配的运行。
  • - 对于某些指标(如延迟、令牌使用量、成本),LangSmith 支持比较具有相同单位的多个指标。例如,您可能想要一个图表来查看提示令牌和完成令牌。每个指标显示为一条单独的线。

拆分数据

在图表中创建多个系列有两种方法(即创建多条线):

  1. **分组依据**:按 运行标签或元数据、运行名称或运行类型分组。分组会自动根据所选字段将数据拆分为多个系列。请注意,分组仅限于频率最高的前 5 个元素。
  2. **数据系列**:使用单独的筛选条件手动定义多个系列。这对于比较单个指标内的细粒度数据很有用。

选择图表类型

  • - 在折线图和条形图之间进行选择以进行可视化。

保存和管理图表

  • - 点击 **保存** 将您的图表保存到仪表板。
  • - 通过点击图表右上角的三个点按钮来编辑或删除图表。
  • - 通过点击图表右上角的三条线按钮并选择来克隆图表 **+ 克隆**。这将打开一个与原始图表具有相同配置的新图表创建窗格。

从追踪项目链接到仪表板

您可以直接从追踪项目链接到任何仪表板。默认情况下,已选择您的追踪项目的预构建仪表板。如果您想改为链接自定义仪表板:

  1. 在您的追踪项目中,点击三个点旁边的 **仪表板** button.
  2. 选择一个仪表板作为新的默认值。

示例:用户旅程监控

使用监控图表来映射代理在特定节点做出的决策。

以邮件助手代理为例。在特定节点,它会对邮件做出以下决策:

  • - 回复邮件。
  • - 通知用户。
  • - 无需回复。

您可以创建图表来追踪和可视化这些决策的细分。

创建图表

1. **指标选择**:选择指标 Run count. 1. **图表筛选器**:添加树筛选器以包含所有名称为的追踪记录 triage_input。这意味着您仅包含到的追踪记录 triage_input 节点。还添加一个图表筛选器用于 Is Root is true,这样计数就不会因追踪记录中的节点数量而膨胀。 1. **数据系列**:为在 triage_input 节点做出的每个决策创建一个数据系列。决策的输出存储在 triage.response 输出对象的字段中,决策的值可以是 no, email, or notify。每个决策都会在图表中生成一个单独的数据系列。 !节点处的决策

现在您可以可视化在 triage_input 节点随时间做出的决策。