Greennode 集成 - 以编程方式使用文档

>**GreenNode** 是一家全球 AI 解决方案提供商，也是 **NVIDIA 首选合作伙伴**，提供从基础设施到应用的完整 AI 能力，服务于美国、中东和北非以及亚太地区的企业。 >运行在 **世界级基础设施** （LEED 金级、TIA‑942、Uptime Tier III）， **GreenNode** 为企业、初创公司和研究人员提供全面的 AI 服务套件： > >- 强大的 AI 基础设施：作为亚太地区首批超大规模 AI 集群之一，GreenNode 的基础设施由 NVIDIA H100 GPU 提供支持，针对高吞吐量机器学习和深度学习工作负载进行了优化。 >- GreenNode AI 平台：专为技术团队设计，GreenNode 的自助式 AI 平台支持快速部署预配置了优化计算实例的 Jupyter notebook 环境。开发者可通过此门户以最少设置时间启动 ML 训练、微调、超参数优化和推理工作流。该平台包含 100 多个精选开源模型的访问权限，并支持与常见 MLOps 工具和存储框架的集成。 >- GreenNode 无服务器 AI： GreenNode 无服务器 AI 提供跨多个领域的预训练生产级模型库，包括文本生成、代码生成、文本转语音、语音转文本、嵌入和重排序模型。此服务非常适合希望在不管理模型基础设施的情况下原型设计或部署 AI 解决方案的团队。 >- AI 应用：从智能数据管理和文档处理（IDP）到智能视频分析——GreenNode 大规模支持实际 AI 用例。 >无论您是在构建下一个 LLM 工作流、扩展 AI 研究，还是部署企业级应用， **GreenNode** 提供工具和基础设施来加速您的 AI 之旅。

安装和设置

GreenNode 集成可以通过 pip 安装：

pip install -qU langchain-greennode

API 密钥

要使用 GreenNode 无服务器 AI，您需要获取一个 API 密钥，您可以从 GreenNode 无服务器 AI获取。API 密钥可以作为初始化参数传递 api_key 或设置为环境变量 GREENNODE_API_KEY.

if not os.getenv("GREENNODE_API_KEY"):
    os.environ["GREENNODE_API_KEY"] = getpass.getpass("Enter your GreenNode API key: ")

聊天模型

from langchain_greennode import ChatGreenNode

chat = ChatGreenNode(
    model="deepseek-ai/DeepSeek-R1-Distill-Qwen-32B",  # Choose from available models
    temperature=0.6,
    top_p=0.95,
)

GreenNode 聊天模型的使用

嵌入模型

from langchain_greennode import GreenNodeEmbeddings

# Initialize embeddings
embeddings = GreenNodeEmbeddings(
    model="BAAI/bge-m3"  # Choose from available models
)

GreenNode 嵌入模型的使用

重排序

from langchain_greennode import GreenNodeRerank

# Initialize reranker
rerank = GreenNodeRerank(
    model="BAAI/bge-reranker-v2-m3",  # Choose from available models
    top_n=-1,
)

GreenNode 重排序模型的使用