LLM-as-a-judge 评估器并非总是正确的。正因如此,让人工手动审核评估器留下的分数并在必要时进行纠正通常很有用。LangSmith 允许您在 UI 或 SDK 中对评估器分数进行修正。
在对比视图中
在对比视图中,您可以点击任意反馈标签以弹出反馈详情。从那里,点击右侧的"edit"图标以打开修正视图。然后您可以在"Make correction"下的文本框中输入您期望的分数。如果愿意,您也可以为您的修正附加说明。这在您使用 few-shot 评估器 时很有用,它会自动插入到您的 few-shot 示例中,替换 few_shot_explanation 提示词变量。
在运行表中
在运行表中,找到"Feedback"列并点击反馈标签以弹出反馈详情。同样,点击右侧的"edit"图标以打开修正视图。
在 SDK 中
可以通过 SDK 的 update_feedback 函数,使用 correction 字典进行修正。您必须指定一个 score 键,该键对应一个数字,以便在 UI 中呈现。
client = langsmith.Client()
client.update_feedback(
my_feedback_id,
correction={
"score": 1,
},
)
const client = new Client();
await client.updateFeedback(
myFeedbackId,
{
correction: {
score: 1,
}
}
)