ComfyUI Flux.1 ControlNet 示例

FLUX.1 ControlNet 模型介绍

FLUX.1 Canny 和 Depth 是由 Black Forest Labs 推出的 ​FLUX.1 Tools 套件 中的两个强大模型。这套工具旨在为 FLUX.1 添加控制和引导能力，使用户能够修改和重新创建真实或生成的图像。

FLUX.1-Depth-dev 和 FLUX.1-Canny-dev 都是 12B 参数的 Rectified Flow Transformer 模型，能够基于文本描述生成图像，同时保持与输入图像的一致性。其中 Depth 版本通过深度图提取技术来维持源图像的空间结构，而 Canny 版本则利用边缘检测技术来保持源图像的结构特征，使得用户可以根据不同需求选择合适的控制方式。

这两个模型都具有以下特点：

• 顶级的输出质量和细节表现
• 出色的提示遵循能力，同时保持源图像的结构布局
• 使用引导蒸馏技术训练，提高效率
• 开放权重供社区研究使用
• 提供 API 接口（pro 版）和开源权重（dev 版）

此外，Black Forest Labs 还提供了从完整模型中提取的 FLUX.1-Depth-dev-lora 和 FLUX.1-Canny-dev-lora 适配器版本，它们可以应用于 FLUX.1 [dev] 基础模型，以较小的文件体积提供类似的功能，特别适合资源受限的环境。

本文将以分别以完整版本的 FLUX.1-Canny-dev 和 FLUX.1-Depth-dev-lora 为例，完成ComfyUI 中 Flux ControlNet 的工作流示例。

FLUX.1-Canny-dev 完整版工作流

Run on Comfy Cloud

1. 工作流及相关素材

请下载下面的工作流图片,并拖入 ComfyUI 以加载工作流

请下载下面的图片，我们将使用它来作为输入图片

2. 手动模型下载

完整模型列表：

• clip_l.safetensors
• t5xxl_fp16.safetensors
• ae.safetensors
• flux1-canny-dev.safetensors （请确保你已经同意了对应 repo 的协议）

文件保存位置：

ComfyUI/
├── models/
│   ├── text_encoders/
│   │   ├── clip_l.safetensors
│   │   └── t5xxl_fp16.safetensors
│   ├── vae/
│   │   └── ae.safetensors
│   └── diffusion_models/
│       └── flux1-canny-dev.safetensors

3. 按步骤完成工作流的运行

1. 确保在Load VAE中加载了ae.safetensors
2. 确保在Load Diffusion Model加载了flux1-canny-dev.safetensors
3. 确保在DualCLIPLoader中下面的模型已加载：

• clip_name1: t5xxl_fp16.safetensors
• clip_name2: clip_l.safetensors

1. 在Load Image节点中上传了文档中提供的输入图片
2. 点击 Queue 按钮，或者使用快捷键 Ctrl(cmd) + Enter(回车) 来运行工作流

4. 开始你的尝试

尝试使用FLUX.1-Depth-dev 模型完成 Depth 版本的工作流

你可以使用下面的图片作为输入

或者借助下面自定义节点中完成图像预处理:

• ComfyUI-Advanced-ControlNet
• ComfyUI ControlNet aux

FLUX.1-Depth-dev-lora 工作流

Run on Comfy Cloud

LoRA 版本的工作流是在完整版本的基础上，添加了 LoRA 模型,相对于完整版本的 Flux 工作流,增加了对应 LoRA 模型的加载使用节点。

1. 工作流及相关素材

请下载下面的工作流图片,并拖入 ComfyUI 以加载工作流

请下载下面的图片，我们将使用它来作为输入图片

2. 手动模型下载

完整模型列表：

• clip_l.safetensors
• t5xxl_fp16.safetensors
• ae.safetensors
• flux1-dev.safetensors
• flux1-depth-dev-lora.safetensors

文件保存位置：

ComfyUI/
├── models/
│   ├── text_encoders/
│   │   ├── clip_l.safetensors
│   │   └── t5xxl_fp16.safetensors
│   ├── vae/
│   │   └── ae.safetensors
│   ├── diffusion_models/
│   │   └── flux1-dev.safetensors
│   └── loras/
│       └── flux1-depth-dev-lora.safetensors

3. 按步骤完成工作流的运行

1. 确保在Load Diffusion Model加载了flux1-dev.safetensors
2. 确保在LoraLoaderModelOnly中加载了flux1-depth-dev-lora.safetensors
3. 确保在DualCLIPLoader中下面的模型已加载：

• clip_name1: t5xxl_fp16.safetensors
• clip_name2: clip_l.safetensors

1. 在Load Image节点中上传了文档中提供的输入图片
2. 确保在Load VAE中加载了ae.safetensors
3. 点击 Queue 按钮，或者使用快捷键 Ctrl(cmd) + Enter(回车) 来运行工作流

4. 开始你的尝试

尝试使用FLUX.1-Canny-dev-lora 模型完成 Canny 版本的工作流

借助 ComfyUI-Advanced-ControlNet 或者 ComfyUI ControlNet aux 完成图像预处理

社区版本 Flux Controlnets

XLab 和 InstantX + Shakker Labs 已经为 Flux 发布了 Controlnet。

InstantX:

• FLUX.1-dev-Controlnet-Canny
• FLUX.1-dev-ControlNet-Depth
• FLUX.1-dev-ControlNet-Union-Pro

XLab: flux-controlnet-collections

将这些文件放在 ComfyUI/models/controlnet 目录下。

你可以访问Flux Controlnet 示例来获取对应工作流图片，并使用这里的图片作为输入图片。