以编程方式使用文档

LangSmith 支持多种实验配置选项:

重复次数

_重复次数_ 多次运行实验以考虑 LLM 输出的变异性。由于 LLM 输出是非确定性的,多次重复可以提供更准确的性能估计。

通过传递 num_repetitions 参数来配置重复次数 evaluate / aevaluate (Python, TypeScript)。每次重复都会重新运行目标函数和所有评估器。

重复次数操作指南.

并发

_并发_ 控制实验期间同时运行的示例数量。通过传递 max_concurrency 参数来配置 evaluate / aevaluate。两个函数的语义不同:

evaluate

max_concurrency 参数指定了运行目标函数和评估器的最大并发线程数。

aevaluate

max_concurrency 参数使用信号量来限制并发任务。 aevaluate 为每个示例创建一个任务,每个任务运行该示例的目标函数和所有评估器。 max_concurrency 参数指定了同时处理的最大并发示例数。

缓存

_缓存_ 将 API 调用结果存储到磁盘以加快后续实验速度。将 LANGSMITH_TEST_CACHE 环境变量设置为具有写权限的有效文件夹路径。未来进行相同 API 调用的实验将重用缓存结果,而不是发出新请求。