以编程方式使用文档

LLM-as-a-judge 评估器并非总是正确的。正因如此,让人工手动审核评估器留下的分数并在必要时进行纠正通常很有用。LangSmith 允许您在 UI 或 SDK 中对评估器分数进行修正。

在对比视图中

在对比视图中,您可以点击任意反馈标签以弹出反馈详情。从那里,点击右侧的"edit"图标以打开修正视图。然后您可以在"Make correction"下的文本框中输入您期望的分数。如果愿意,您也可以为您的修正附加说明。这在您使用 few-shot 评估器 时很有用,它会自动插入到您的 few-shot 示例中,替换 few_shot_explanation 提示词变量。

!审核评估器对比视图

在运行表中

在运行表中,找到"Feedback"列并点击反馈标签以弹出反馈详情。同样,点击右侧的"edit"图标以打开修正视图。

!审核评估器运行表

在 SDK 中

可以通过 SDK 的 update_feedback 函数,使用 correction 字典进行修正。您必须指定一个 score 键,该键对应一个数字,以便在 UI 中呈现。

client = langsmith.Client()

client.update_feedback(
    my_feedback_id,
    correction={
        "score": 1,
    },
)
const client = new Client();

await client.updateFeedback(
    myFeedbackId,
    {
        correction: {
            score: 1,
        }
    }
)