GeneFace 是一套基于神经辐射场(NeRF)/ 可驱动头像(talking head)的语音驱动人脸生成框架,其“性能指标”通常从图像质量、音视频同步性、自然度、推理效率几个维度来衡量。下面按学术评测 + 工程实测两种方式说明。
一、GeneFace 常用性能指标分类
1️⃣ 图像 / 视频质量指标
用于衡量生成人脸的清晰度和真实感:
- PSNR(峰值信噪比)
- SSIM(结构相似性)
- LPIPS(感知相似度,越低越好)
- FID(Frechet Inception Distance,越低越好)
- FVD(Frèchet Video Distance,视频级真实感)
这些通常在有真值视频(Ground Truth)时计算
2️⃣ 音视频同步指标(Lip Sync)
GeneFace 的核心能力之一:
- Landmark Distance(LMD)
- 嘴部关键点误差
- SyncNet Confidence / Offset
- 使用 SyncNet 计算音视频延迟
- 偏移越小越好(通常 < 0.1s)
- Lip Sync Error (LSE)
- LSE-D(距离)
- LSE-C(置信度,越高越好)
3️⃣ 自然度 / 主观评价
- MOS(Mean Opinion Score)
- 人工打分(1–5分)
- User Study
- 对比 GeneFace vs 其他模型(Wav2Lip、SadTalker 等)
4️⃣ 推理效率指标
用于工程部署评估:
- FPS(帧率)
- RTF(Real-Time Factor)
- RTF < 1 表示可实时
- 显存占用
- 模型大小
二、GeneFace 性能测试方法(实操)
✅ 1. 使用官方评测脚本(推荐)
GeneFace 官方仓库通常提供:
python metrics/compute_metrics.py \
--pred_video output.mp4 \
--gt_video ground_truth.mp4
常见包含:
✅ 2. 音视频同步测试(SyncNet)
python syncnet_eval.py \
--video output.mp4 \
--audio audio.wav
输出:
✅ 3. 使用 FID / FVD
python fid_score.py --real real_videos --fake gen_videos
python fvd_score.py --real real_videos --fake gen_videos
✅ 4. 实时性测试
time python inference.py --audio test.wav
记录:
- 总耗时
- FPS = 帧数 / 时间
- RTF = 推理时间 / 视频时长
三、不同场景的推荐指标组合
| 场景 | 推荐指标 |
|---|
| 论文对比 | PSNR, SSIM, LPIPS, FID, SyncNet |
| 产品落地 | FPS, RTF, Lip Sync Error |
| 用户体验 | MOS, User Study |
| 移动端 | 模型大小, 显存, 功耗 |
四、注意事项(很重要)
- 必须有 GT 视频才能算 PSNR / SSIM
- GeneFace 对音频质量敏感
- 不同数据集(VoxCeleb / HDTF)指标不可直接对比
- 推理模式(NeRF vs rasterization)性能差异很大
如果你愿意,我可以:
- 帮你写一套完整的 GeneFace 评测脚本
- 对比 GeneFace vs Wav2Lip / SadTalker
- 针对实时部署给性能优化建议
你现在是做论文实验还是工程落地?