DeepSeekR1显存怎样估算

估算 DeepSeek-R1 系列模型（尤其是不同参数规模版本）的显存占用，核心思路是：模型权重显存 + 激活/中间状态显存 + KV Cache + 框架/并行开销。下面按常见场景说明。

一、先明确你指的是哪个 DeepSeek-R1

DeepSeek-R1 有不同规模：

• DeepSeek-R1（671B，MoE）：总参数约 671B，激活参数约 37B
• DeepSeek-R1-Distill 系列：如 1.5B / 7B / 14B / 32B / 70B（稠密模型）

显存估算方式不同。

二、模型权重显存（最基础）

公式

权重显存 ≈ 参数数量 × 每参数字节数

示例

• 671B FP16

671B × 2 = 1342 GB

• 70B FP16

70 × 2 = 140 GB

• 7B INT4

7 × 0.5 = 3.5 GB

三、DeepSeek-R1（671B MoE）显存估算

1. 推理（单卡不可能，必须多卡 / 分布式）

• 权重（BF16）：~1.3TB
• 实际部署常用：
• 专家并行 + 张量并行
• 量化（FP8 / INT4）
• 常见配置：
• 8×H100 (80GB) 不够
• 通常 数十张 H100 / A100

2. 微调

• 全参微调不现实
• 常用：
• LoRA / QLoRA
• 量化 + 适配器
• 显存 ≈ 权重 + 优化器状态（FP16下优化器≈12×参数量）

四、DeepSeek-R1-Distill 显存估算（实用）

推理（BF16）

加 KV Cache（推理时必须）

KV ≈ 2 × 层数 × 隐维 × 序列长 × batch × 字节

示例（7B，seq=4k，batch=1）：

• 约 2–4 GB 额外

五、快速估算经验公式（推理）

总显存 ≈ 权重 × 1.2~1.5

• 1.2：轻量推理
• 1.5：长上下文 / 大 batch

六、举例总结

• 本地跑 7B Distill：

16–24 GB 显卡（如 3090 / 4090）

• 32B Distill：

至少 2×24GB 或 1×80GB

• 671B R1：

数据中心级集群

如果你说的是 具体版本 + 用途（推理/微调）+ 硬件，我可以给你一个更精确的显存表。