以编程方式使用文档

>ddtrace 是一个 Datadog 应用程序性能监控 (APM) 库,提供集成来监控您的 LangChain 应用程序。

ddtrace 与 LangChain 集成的关键功能: - 追踪:捕获 LangChain 请求、参数、提示词-完成内容,并帮助可视化 LangChain 操作。 - Metrics: Capture LangChain request latency, errors, and token/cost usage (for OpenAI LLMs and chat models). - 日志:存储每个 LangChain 操作的提示词完成数据。 - 仪表板:将指标、日志和追踪数据组合到单一视图中以监控 LangChain 请求。 - 监控:响应 LangChain 请求延迟或错误率激增时提供警报。

注意:ddtrace LangChain 集成目前为 LLM、聊天模型、文本嵌入模型、链和向量存储提供追踪。

安装和设置

  1. 在 Datadog Agent 中启用 APM 和 StatsD,以及 Datadog API 密钥。例如,在 Docker 中:
docker run -d --cgroupns host \
              --pid host \
              -v /var/run/docker.sock:/var/run/docker.sock:ro \
              -v /proc/:/host/proc/:ro \
              -v /sys/fs/cgroup/:/host/sys/fs/cgroup:ro \
              -e DD_API_KEY= \
              -p 127.0.0.1:8126:8126/tcp \
              -p 127.0.0.1:8125:8125/udp \
              -e DD_DOGSTATSD_NON_LOCAL_TRAFFIC=true \
              -e DD_APM_ENABLED=true \
              gcr.io/datadoghq/agent:latest
  1. 安装 Datadog APM Python 库。
pip install "ddtrace>=1.17"
uv add "ddtrace>=1.17"
  1. 当您在 LangChain Python 应用程序命令前加前缀时,可以自动启用 LangChain 集成 ddtrace-run:
DD_SERVICE="my-service" DD_ENV="staging" DD_API_KEY= ddtrace-run python <your-app>.py

注意:如果 Agent 使用非默认主机名或端口,请确保也设置 DD_AGENT_HOST, DD_TRACE_AGENT_PORT, or DD_DOGSTATSD_PORT.

此外,可以通过添加以编程方式启用 LangChain 集成 patch_all() or patch(langchain=True) 在首次导入之前 langchain 在您的应用程序中。

请注意,使用 ddtrace-run or patch_all() 也将启用 requestsaiohttp 集成,这些集成追踪对 LLM 提供商的 HTTP 请求,以及 openai 集成,该集成追踪对 OpenAI 库的请求。

from ddtrace import config, patch

# Note: be sure to configure the integration before calling `patch()`!
# e.g. config.langchain["logs_enabled"] = True

patch(langchain=True)

# to trace synchronous HTTP requests
# patch(langchain=True, requests=True)

# to trace asynchronous HTTP requests (to the OpenAI library)
# patch(langchain=True, aiohttp=True)

# to include underlying OpenAI spans from the OpenAI integration
# patch(langchain=True, openai=True)
# patch_all()

请参阅 APM Python 库文档 了解更多高级用法。

配置

请参阅 APM Python 库文档 了解所有可用的配置选项。

日志提示词和完成采样

要启用日志提示词和完成采样,请设置 DD_LANGCHAIN_LOGS_ENABLED=1 环境变量。默认情况下,10% 的追踪请求将发出包含提示词和完成内容的日志。

要调整日志采样率,请参阅 APM 库文档.

注意:日志提交需要 DD_API_KEY 在运行时指定。 ddtrace-run.

故障排除

需要帮助?请在 ddtrace 上创建问题或联系 Datadog 支持.