Windows 上 DeepSeek-R1 安装要求一览
一 系统要求
- 操作系统:Windows 10/11 64 位(建议 20H2/21H2 及以上)。
- 内存:至少 16 GB RAM;推荐 32 GB 以上以更稳定运行。
- 存储:至少预留 50 GB 可用空间(模型与依赖)。
- 显卡与驱动:推荐 NVIDIA 显卡(支持 CUDA 11.x/12.x),显存建议 ≥8 GB;使用
nvidia-smi 验证驱动与 CUDA 状态。 - 可选:需要 Linux 工具链或容器时,建议启用 WSL2(Windows 10 21H2+)。
二 软件依赖与版本
- Python:3.8–3.10(建议 3.10),64 位;使用
python --version 与 pip --version 验证。 - CUDA/cuDNN:NVIDIA 用户安装与显卡驱动匹配的 CUDA Toolkit 11.7/11.8 或 12.x,并配置 cuDNN 8.0+;可用
nvcc --version 与 nvidia-smi 校验。 - PyTorch:选择与 CUDA 版本匹配的 GPU 版,例如:
- CUDA 11.8:
pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 - CUDA 12.1:
pip install torch==2.1.0+cu121 -f https://download.pytorch.org/whl/cu121/torch_stable.html - 推理与工具链:
transformers ≥ 4.34.0、vLLM(如需高吞吐推理)、bitsandbytes(如需 4/8-bit 量化)、Git LFS(下载大模型权重)。
三 模型规模与磁盘占用
| 模型/规格 | 参数规模 | 典型显存需求 | 近似磁盘占用 | 适用场景 |
|---|
| Distill-Qwen | 1.5B | ≥8 GB(量化可更低) | 约 1–2 GB(GGUF Q8_0 示例 1.89 GB) | 入门体验、CPU/入门独显 |
| 官方 7B | 7B | ≥16 GB(推荐 24–32 GB) | 约 35 GB | 单卡 3090/4090 本地推理 |
| 官方 67B | 67B | 多卡 ≥128 GB 总显存 | 约 400 GB | 多卡/服务器部署 |
四 安装前自检与准备
- 系统规格核验:在 CMD 执行
systeminfo,确认“系统类型:x64-based PC”“物理内存”满足要求。 - GPU 与驱动:执行
nvidia-smi,确认驱动正常、CUDA 版本与计划安装的 PyTorch/CUDA 兼容。 - 开发工具:安装 Git 与 Git LFS,用于拉取大模型仓库与权重。
- Python 环境:建议 Miniconda 创建隔离环境(如
conda create -n deepseek python=3.10),避免依赖冲突。 - 存储与路径:模型默认下载到用户目录或指定路径,确保磁盘空间充足且路径无中文/空格。
五 不同使用场景的最低配置建议
- CPU/入门体验:
- 硬件:16 GB RAM、SSD、无独显或入门独显(如支持 CUDA 的 RTX 3060 8 GB)。
- 模型:DeepSeek-R1-Distill-Qwen 1.5B(GGUF),可用 Ollama 一键运行或手动导入。
- 单卡本地推理:
- 硬件:Windows 10/11 64 位、32 GB RAM、RTX 3090/4090 24 GB+。
- 软件:Python 3.10、CUDA 12.x、PyTorch(cu121)、Transformers、vLLM(可选)。
- 模型:7B,FP16/量化均可。
- 多卡/企业级:
- 硬件:多卡 A100/H100/4090 等,≥128 GB 总显存(如 67B 场景)。
- 方案:vLLM 张量并行、量化与内存优化、容器化与监控(如 Prometheus/Grafana)。