以编程方式使用文档

客户正在转向 SambaNova 以快速部署最先进的 AI 功能来获得竞争优势。我们专门构建的企业级 AI 平台是下一代 AI 计算的技术支柱。我们为释放数据中蕴含的宝贵商业洞察力的基础模型提供动力。

SambaNova RDU 专为 AI 设计,采用革命性的数据流架构构建。这种设计使 RDU 在这些工作负载上比 GPU 效率高得多,因为它消除了冗余的内存调用,而这是 GPU 运行方式的固有局限性。这种内置效率是 RDU 能够在占用空间的一小部分内实现比 GPU 高得多的性能的特点之一。

在我们的架构之上,我们开发了一些平台,使公司和开发者能够充分利用 RDU 处理器和开源模型。

安装和设置

安装集成包:

pip install langchain-sambanova
uv add langchain-sambanova

## API 密钥 将您的 API 密钥设置为环境变量:

如果您是 SambaCloud 用户,请申请 API 密钥 并将其设置为环境变量:

或者如果您是 SambaStack 用户,请将您的 base URL 和 API 密钥设置为环境变量:

聊天模型

有关 ChatSambaNova 组件的详细教程,请参阅 使用示例

from langchain_sambanova import ChatSambaNova

嵌入模型

有关 SambaNovaEmbeddings 组件的详细教程,请参阅 使用示例

from langchain_sambanova import SambaNovaEmbeddings

SambaNova API 参考