DeepSeek R1 电源配置要点
一 功率与冗余的硬指标
- 先按显卡的 TDP 与整机其余部件的 满载功耗 做加法,再预留 20%–30% 冗余,避免高负载掉压与噪声波动。
- 不同规模模型的常见整机电源建议如下(含冗余区间):
| 模型规模 | 典型显卡与显存 | 建议电源 |
|---|
| 1.5B | 无需独显或入门独显 | ≥500W |
| 7B | 中端独显(如 RTX 4060) | ≥650W |
| 14B | 高端单卡(如 RTX 4080 Super) | ≥1000W |
| 32B | 专业卡/多卡(如 A100 40GB 等) | ≥1200W |
| 70B | 多卡专业平台(如 A100 80GB×2) | ≥2000W |
| 671B | 多节点集群 | ≥3600W(服务器电源) |
- 以上为常见部署的起步值,具体仍需结合 CPU、硬盘数量、风道与室温综合评估。
二 不同硬件场景的电源要点
- 单卡消费级(如 RTX 4090 24GB 跑 7B/13B):建议整机 ≥850W 80Plus 金牌,保证峰值与未来余量;若机箱风道一般或环境温度偏高,优先上 1000W 提升稳定裕度。
- 单卡中端(如 RTX 4070 Super 12GB 跑 13B):建议整机 ≥750W 80Plus 金牌,注意显卡供电线独立分线,避免转接器“串线”引发压降。
- 双卡平台(如 A100×2 或多卡专业卡):建议 ≥1000W 起,企业级平台常见 2000W 级别;优先保证 12V 输出能力 与 PCIe 8Pin/12VHPWR 线材质量,并核对主板有足够的 PCIe x16 插槽与带宽。
- 非 NVIDIA 路线(如 双 Intel Arc A770 16GB 跑 32B 蒸馏):单卡 TBP≈285W,双卡接近 600W,整机建议 ≥1300W,并确保电源具备 4×PCIe 8Pin 接口与良好瞬时负载能力。
三 供电与线材细节
- 选择标注为 额定功率 的品牌电源,建议 80Plus 金牌/铂金 效率,提升稳压与转换效率。
- 显卡供电优先使用电源原装的 PCIe 8Pin/12VHPWR 线,避免劣质转接头;多卡时每路供电独立回路,减少线损与发热。
- 检查机箱风道与 进/出风 能力,电源进风口保持通畅;必要时为电源与显卡留出顶部/侧面空隙,降低温升对稳压的影响。
- 使用 UPS 不间断电源(≥电源额定功率)可应对瞬时掉电与电压波动,保障长时间推理任务的连续性。
四 负载与稳定性验证
- 通过 nvidia-smi dmon 或 nvtop 观察 GPU 瞬时功耗与频率保持情况,确认电源在峰值负载下无降频、无掉压。
- 进行 10–15 分钟高负载压力测试(如连续长文生成或批量推理),检查电源、显卡与机箱温度是否在安全范围。
- 若遇到 OOM/降速/重启 等不稳定现象,优先排查:电源功率是否不足、供电线是否瓶颈、散热是否受限,再考虑降低 batch size 或启用 量化 减轻负载。