GeneFace Plus Plus显存如何释放

GeneFace Plus Plus 在推理或训练过程中显存占用高、不释放，通常不是单一问题，而是 PyTorch / CUDA 缓存机制 + 模型结构 + 数据加载 共同作用的结果。下面按「排查 → 释放技巧 → 训练 / 推理不同场景」给你一套实操方案。

一、先确认：显存是真没释放，还是 PyTorch 在“占着不用”

1️⃣ 查看真实显存占用

nvidia-smi

如果看到：

• 进程还在 → 显存不会释放
• 进程已停，但显存仍占用 → 可能是僵尸进程或 CUDA context 没销毁

2️⃣ 在 Python 里查看

import torch
print(torch.cuda.memory_allocated())
print(torch.cuda.memory_reserved())

二、最常见原因 & 对应释放方法（重点）

✅ 1. PyTorch 的 CUDA 缓存机制（最常见）

PyTorch 不会立刻把显存还给 GPU，而是缓存起来复用。

✅ 释放方式

torch.cuda.empty_cache()

⚠️ 注意：

• 只能释放 未被引用的缓存
• 有对象引用 → 不生效

✅ 2. 变量没释放（强引用）

❌ 错误示例

outputs = model(x)

如果 outputs 还活着，显存不会释放。

✅ 正确做法

with torch.no_grad():
outputs = model(x)
del outputs
torch.cuda.empty_cache()

✅ 3. model.eval() + no_grad() 没开（推理必做）

model.eval()
with torch.no_grad():
result = model(input)

✅ 可以节省 30%~50% 显存

✅ 4. GeneFace++ 特有结构问题

GeneFace++ 常见显存大户：

✅ 解决技巧

# 降低 batch size
batch_size = 1
# 降低图像分辨率
img_size = 256  # 或 128
# 减少 audio window
audio_len = 40  # 原来是 80+

三、训练阶段显存不释放（最常见）

✅ 正确训练释放模板

for epoch in epochs:
for data in dataloader:
loss = model(data)
loss.backward()
optimizer.step()
optimizer.zero_grad()
# 显存释放
del loss
torch.cuda.empty_cache()

✅ 使用 with torch.cuda.amp.autocast() 时

with torch.cuda.amp.autocast():
output = model(x)

⚠️ autocast 会额外占显存，推理时建议关闭

四、推理阶段显存一直涨（OOM）

✅ 推理标准写法（推荐）

@torch.no_grad()
def infer(model, x):
model.eval()
x = x.cuda()
y = model(x)
del x, y
torch.cuda.empty_cache()

五、DataLoader 导致的“隐形显存泄漏”

❌ 常见错误

DataLoader(..., pin_memory=True)

✅ 推理时建议

DataLoader(..., pin_memory=False)

六、CUDA Context 不释放（进程退出但显存还在）

✅ 强制释放方式

import gc
gc.collect()
torch.cuda.empty_cache()

✅ 终极方案（不推荐但有效）

kill -9 PID

七、GeneFace++ 专属建议（实测有效）

✅ 推理时

python inference.py \
--img_size 256 \
--batch_size 1 \
--audio_len 30

✅ 训练时

--batch_size 1
--accum_grad 4

等价于 batch=4，但显存更小。

八、快速自查清单 ✅

✅ 有没有 del 无用变量
✅ 有没有 empty_cache()
✅ model.eval() + no_grad()
✅ batch size 是否过大
✅ DataLoader 是否 pin_memory

✅ 是否循环里重复创建 tensor

九、如果你愿意，我可以帮你：

• ✅ 逐行看 GeneFace Plus Plus 推理代码
• ✅ 定位是哪一行导致显存不降
• ✅ 给你定制一个“低显存推理方案”
• ✅ 对比 AUTOVC / Wav2Lip / SadTalker 显存策略

你可以直接贴：

• 显存多大（比如 16G / 24G）
• 是 训练 OOM 还是 推理显存泄漏
• 报错信息或 nvidia-smi 截图