> Pipeshift 是一个用于开源 LLM 的微调和推理平台

• - 提供您的数据集，微调多个 LLM。一键开始推理，并见证其扩展至百万级别。

安装和设置

• - 安装 Pipeshift 集成包。

  pip install langchain-pipeshift
  

• - 在以下网址注册以获取您的 Pipeshift API 密钥 Pipeshift.

身份验证

您可以通过以下任一方式使用 Pipeshift API 密钥进行身份验证：

1. 将 API 密钥添加为环境变量 PIPESHIFT_API_KEY.

    os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"
    

1. 通过传递 api_key 到 pipeshift LLM 模块或聊天模块

    llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

                        OR

    chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)
    

聊天模型

查看 示例.

from langchain_pipeshift import ChatPipeshift

LLM

查看 示例.

from langchain_pipeshift import Pipeshift