以编程方式使用文档

Bright Data 是一个网络数据平台,提供网页抓取、SERP 收集和访问地理限制内容的功能。

Bright Data 允许开发者从网站提取结构化数据、执行搜索引擎查询,并访问可能被阻止或地理限制的内容。该平台旨在帮助克服常见的网页抓取挑战,包括反机器人系统、CAPTCHA 和 IP 封锁。

安装和设置

pip install langchain-brightdata
uv add langchain-brightdata

您需要设置您的 Bright Data API 密钥:

在以下网址注册 Bright Data 并从您的账户设置中检索您的 API 密钥。替换 "your-api-key" 为以下示例中的您的实际 API 密钥:

os.environ["BRIGHT_DATA_API_KEY"] = "your-api-key"

或者您可以在初始化工具时直接传递它:

from langchain_brightdata import BrightDataSERP

tool = BrightDataSERP(bright_data_api_key="your-api-key")

工具

Bright Data 集成提供多种工具:

  • - BrightDataSERP - 支持地理定位和自定义区域的搜索引擎结果收集
  • - BrightDataUnlocker - 访问任何可能被地理限制或机器人保护屏蔽的公共网站
  • - BrightDataWebScraperAPI - 从 44 个热门域名(包括 Amazon、LinkedIn、Instagram、TikTok 等)提取结构化数据