如何压缩ComfyUI模型

压缩 ComfyUI 模型的核心在于减少模型体积和降低显存占用，主要通过模型量化（Quantization）、模型剪枝（Pruning）以及格式转换来实现。对于大多数用户，最推荐且最安全的方法是使用 GGUF 或 FP8 格式。

以下是详细的压缩方案和操作步骤：

1. 使用 GGUF 格式（最推荐，显存占用最低）

GGUF 是 llama.cpp 衍生出的格式，现在广泛用于 Stable Diffusion 模型（特别是 SDXL 和 Flux）。它支持极高的压缩率（如 Q4、Q5），且加载速度快，对低显存用户非常友好。
操作步骤：

1. 下载 GGUF 模型：直接去 Hugging Face 或 Civitai 搜索模型名称 + "GGUF"。例如 sd_xl_base_1.0_GGUF。
2. 使用 ComfyUI 加载：

• 确保你的 ComfyUI 是最新版。
• 在节点列表中找到 Load Checkpoint 或专门的 Unet Loader (GGUF)（部分版本需要更新 ComfyUI 本体）。
• 选择 .gguf 文件加载即可。

优点：体积可缩小 50%-70%，低显存也能跑大模型。

缺点：生成速度可能略慢于原生格式（取决于量化程度），极少数情况下画质有轻微损失。

2. 使用 FP8 精度（平衡画质与性能）

FP8 是 NVIDIA Ada Lovelace 架构（40系显卡）优化的格式，但在 30系及更早的显卡上也能通过软件模拟运行。它是目前替代 FP16 的标准做法。
操作步骤：

1. 下载 FP8 模型：很多新模型直接提供 fp8 版本（如 flux1-dev-fp8.safetensors）。
2. 转换现有模型（如果需要）：

• 使用脚本（如 convert_lora_safetensor_to_fp8.py 或 ComfyUI 自带的转换工具）将 FP16 模型转为 FP8。
• 或者使用 ComfyUI-Manager 中的插件辅助转换。

1. 加载：直接使用 Load Checkpoint 节点加载 FP8 模型。

优点：体积减半（相比 FP16），画质几乎无损，速度通常比 GGUF 快。

缺点：对 20 系及以下老显卡支持不如 GGUF 完美。

3. 模型剪枝与合并（高级玩法）

如果你有训练基础，可以通过剪枝（Pruning）移除模型中不重要的权重。

• 工具：sd-scripts (Kohya_ss) 或 ComfyUI-Advanced-LoRA。
• 方法：
• 提取 LoRA 权重：将大模型的部分特征提取为 LoRA，推理时加载小 LoRA 而不加载完整大模型（但这通常是为了风格迁移，不是直接压缩底模）。
• 模型合并（Merge）：合并时选择 MBW (Merge Block Weighted) 算法，有时可以生成体积更小但效果不错的模型，但这更多是实验性质。

4. 使用 FP16 转 FP8/GGUF 的 ComfyUI 工作流

如果你不想去下载现成的压缩包，可以在 ComfyUI 内部进行转换。
推荐插件：ComfyUI_bitsandbytes_NF4

• 这个插件允许你直接加载 FP16 模型，并在加载时动态量化为 NF4 或 FP8。
• 节点路径：bitsandbytes -> Load Checkpoint (NF4)。
• 这不需要你提前转换模型文件，ComfyUI 会在加载时处理，但首次加载会较慢。

5. 硬件与系统层面的“压缩”技巧

如果不想修改模型文件本身，可以通过优化加载方式来减少显存占用：

1. 分块加载 (Block Swap)：

• 对于 Flux 或 SDXL，使用 Model Sampling (Flux) 或 Apply ControlNet 等高级节点时，部分插件支持将模型部分卸载到内存（RAM）。
• 插件：ComfyUI-Manager 搜索 ComfyUI-VideoHelperSuite 或相关内存优化插件。

1. 使用 TAESD (Tiny Autoencoder)：

• 在预览图像时使用 Tiny Autoencoder 代替完整 VAE，可以节省大量显存。
• 节点：VAE Decode (TAESD)。

1. 清理显存：

• 在 ComfyUI 设置中开启 Auto-delete models after use（使用后自动删除模型），防止多个模型同时占用显存。

总结建议

最简单直接的路径：
去 Civitai 或 HuggingFace 搜索你想要的模型，加上关键词 GGUF 或 fp8，下载后直接拖入 ComfyUI 使用，这是目前最省事的压缩方法。