Bright Data 是一个网络数据平台,提供网页抓取、SERP 收集和访问地理限制内容的功能。
Bright Data 允许开发者从网站提取结构化数据、执行搜索引擎查询,并访问可能被阻止或地理限制的内容。该平台旨在帮助克服常见的网页抓取挑战,包括反机器人系统、CAPTCHA 和 IP 封锁。
安装和设置
pip install langchain-brightdata
uv add langchain-brightdata
您需要设置您的 Bright Data API 密钥:
在以下网址注册 Bright Data 并从您的账户设置中检索您的 API 密钥。替换 "your-api-key" 为以下示例中的您的实际 API 密钥:
os.environ["BRIGHT_DATA_API_KEY"] = "your-api-key"
或者您可以在初始化工具时直接传递它:
from langchain_brightdata import BrightDataSERP
tool = BrightDataSERP(bright_data_api_key="your-api-key")
工具
Bright Data 集成提供多种工具:
- - BrightDataSERP - 支持地理定位和自定义区域的搜索引擎结果收集
- - BrightDataUnlocker - 访问任何可能被地理限制或机器人保护屏蔽的公共网站
- - BrightDataWebScraperAPI - 从 44 个热门域名(包括 Amazon、LinkedIn、Instagram、TikTok 等)提取结构化数据