如何部署Stable Diffusion集群

部署 Stable Diffusion 集群通常用于多用户并发出图、批量生图、API 服务化或企业级推理。下面从架构方案 → 部署方式 → 关键组件 → 示例方案系统讲清楚。

一、Stable Diffusion 集群常见架构

1️⃣ 基础架构（推荐）

客户端 / Web UI
↓
API 网关（负载均衡）
↓
SD 推理节点（GPU）
↓
模型存储 / 缓存

2️⃣ 核心组件

二、部署方式选择

✅ 方式 1：轻量集群（中小规模）

• 多台机器运行 SD WebUI + API
• Nginx 做负载均衡
• 适合：10–50 并发

✅ 方式 2：生产级集群（推荐）

• Stable Diffusion + FastAPI / Triton
• Kubernetes + GPU 调度
• 适合：企业 / SaaS

三、基于 WebUI API 的集群部署（最常用）

1️⃣ 单节点启动 API

python launch.py \
--api \
--listen \
--port 7860 \
--gpu \
--ckpt /models/model.ckpt

2️⃣ 多节点部署

• 每台 GPU 机器都跑 WebUI API
• 示例节点：

node1: 192.168.1.10:7860
node2: 192.168.1.11:7860
node3: 192.168.1.12:7860

3️⃣ Nginx 负载均衡

upstream sd_cluster {
server 192.168.1.10:7860;
server 192.168.1.11:7860;
server 192.168.1.12:7860;
}
server {
listen 80;
location / {
proxy_pass http://sd_cluster;
}
}

四、生产级方案（Kubernetes + Triton）

架构

Ingress
↓
FastAPI
↓
Triton Inference Server
↓
GPU Pool

优势

• 自动扩缩容
• GPU 利用率高
• 多模型热切换

组件

• Triton（模型推理）
• FastAPI（业务 API）
• Redis（任务队列）
• Prometheus + Grafana

五、异步任务队列（高并发必备）

使用 Celery

@app.task
def generate_image(prompt):
return sd_api.txt2img(prompt)

流程

用户请求 → 队列 → Worker → GPU → 返回

六、模型与资源管理

模型共享

• NFS / MinIO / S3
• 所有节点挂载 /models

显存优化

• xFormers
• fp16 / bf16
• LCM / Turbo 模型

七、推荐硬件

八、常见坑

❌ 每个请求都加载模型（慢）
✅ 常驻进程 + 模型缓存
❌ 无队列（GPU 被打满）
✅ 限流 + 异步
❌ 单点故障

✅ 多节点 + 健康检查

九、如果你愿意，我可以帮你

✅ 写一份 Docker + Nginx + SD API 集群部署脚本
✅ 给你一套 K8s YAML 示例
✅ 设计 私有 SD 云服务平台
✅ 根据你的并发量做架构选型
你可以告诉我：

• 用 WebUI 还是 API？
• 并发大概多少？
• 单机还是云？