| 模型版本 | 参数量 | 量化方式 | 最低显存 | 推荐显存 |
|---|---|---|---|---|
| DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | FP16 | 4 GB | 6 GB |
| DeepSeek-R1-Distill-Qwen-7B | 7B | FP16 | 14 GB | 16 GB |
| DeepSeek-R1-Distill-Qwen-7B | 7B | INT4 | 5–6 GB | 8 GB |
| DeepSeek-R1-Distill-Qwen-14B | 14B | INT4 | 10–12 GB | 16 GB |
| DeepSeek-R1-Distill-Qwen-32B | 32B | INT4 | 20–24 GB | 24 GB |
| DeepSeek-R1(满血版) | 671B | INT8 | 640 GB+ | 多卡 A100/H100 |
✅ 普通用户建议:
| 操作 | 显存建议 |
|---|---|
| LoRA 微调 7B | 16 GB |
| LoRA 微调 14B | 24 GB |
| 全参数微调 7B | 48 GB+ |
| 全参数微调 32B | 多卡 A100 |
显存越大越爽,但 16GB 是甜点,24GB 是舒适线。
如果你愿意,可以告诉我:
我可以给你更精准的配置建议。