第四部分,技能与集成服务

集成大模型能力

按模型能力、上下文、延迟、成本和数据政策接入大模型,并设计可替换的调用层。

核心认识

模型接入不仅是填入 API Key。需要明确支持的输入类型、上下文长度、结构化输出、工具调用、限流和数据处理政策,并为模型不可用准备降级。

  • 使用任务测试集比较模型,不只比较单条回答。
  • 密钥通过环境变量或凭据系统注入。
  • 设置超时、重试、并发和预算上限。
  • 业务逻辑不要依赖单一模型的非标准输出。

操作方法

  1. 确定任务所需能力和合规要求。
  2. 配置测试模型并验证基本调用。
  3. 运行质量、延迟和成本评测。
  4. 设置默认模型、备用模型和告警。

验收与边界

  • 能说明本功能的输入、输出和权限边界。
  • 能用一个最小示例验证配置生效。
  • 真实生产数据和凭据未写入页面、仓库或日志。

官方文档图片

以下图片直接来自本页引用的官方资料,本站保存本地副本并保留逐图来源。

集成大模型能力

官方资料

本页由 xueai 根据扣子官方文档独立撰写中文讲解,并保留逐页官方链接。扣子商业站文档未声明开放再发布许可,因此本站不逐字转载,功能名称、流程和界面以官方当前版本为准。

内容授权与来源

本页为 xueai 原创中文讲解,只引用必要的产品名称、接口名和操作事实。扣子及 Coze 商标、产品界面和商业文档版权归其权利人所有。

Apache License 2.0来源和变更说明