Windows安装DeepSeekR1的准备工作

Windows 安装 DeepSeek-R1 的准备工作
一 系统环境与硬件基线

• 操作系统与基础工具
• Windows 10/11 64位（建议 21H2/22H2 及以上），PowerShell 5.1+，已安装 Git、Microsoft C++ 运行库、DirectX。
• 硬件基线（按模型规模准备）
• 入门体验（CPU/核显或入门独显）：内存 ≥16GB，可用 SSD ≥50GB；适合 1.5B–7B 量化模型。
• 推荐（NVIDIA 独显）：显卡 RTX 3060 12GB+，内存 ≥32GB，NVMe SSD ≥512GB；适合 7B 全精度或更高。
• 进阶多卡（重度推理/多并发）：显卡 RTX 3090/4090 或 A100/H100，内存 ≥128GB；适合 67B 级别或并行推理。
• 驱动与加速
• 更新 NVIDIA 显卡驱动；如需 GPU 推理，准备 CUDA 11.8 或 12.x（与驱动匹配），并配置 cuDNN（如需）。
• 可选：启用 WSL2（便于部分工具链与依赖）。

二 软件依赖与版本匹配

• Python 与虚拟环境
• 建议 Python 3.10（3.8–3.10 范围内更稳妥），使用 Miniconda/venv 创建隔离环境（示例名：deepseek）。
• PyTorch 与 CUDA 对齐
• GPU 方案优先选择与 CUDA 版本匹配的 PyTorch（如 cu118/cu121 预编译包），避免 CPU/GPU 不匹配导致无法调用显卡。
• 推理框架与工具
• 原生 PyTorch 推理：安装 transformers、accelerate 等基础库。
• 高性能推理：可选 vLLM（需与 CUDA/驱动版本匹配）。
• 零配置体验：可选 Ollama（Windows 一键安装，内置模型管理）。
• 辅助工具
• Git LFS（下载大模型权重）、certutil（Windows 校验 SHA-256）、nvidia-smi（查看 GPU/驱动状态）。

三 模型与存储规划

• 模型规模与磁盘占用（示例）
• 1.5B：约 0.5–2GB（GGUF 量化为主，适合入门与 CPU/核显）
• 7B：约 13–35GB（FP16 约 13GB；常见量化 4bit 约 6–8GB）
• 67B：约 130–400GB（多卡/高内存场景）
• 下载与校验
• 渠道：Hugging Face（git lfs）、Ollama 库、国内镜像（如 ModelScope）。
• 完整性校验：使用 SHA-256 校验模型文件，防止下载损坏。
• 目录与权限
• 建议统一放置于如 C:modelsdeepseek-r1，确保当前用户对目录有读写权限；如使用 Ollama，注意其默认模型存储路径与磁盘配额。

四 部署路径选择与网络准备

• 路径 A：原生 PyTorch 或 vLLM（灵活、可深度调优）
• 适用：需要自定义采样、并行、Tensor/Pipeline 切分、对接自有服务。
• 准备：确认 CUDA/驱动/PyTorch 版本一致；准备启动脚本与日志目录；规划端口（如 8000/7860）。
• 路径 B：Ollama（零配置、上手快）
• 适用：快速体验、本地对话、轻量服务化。
• 准备：安装 Ollama Windows 版，优先使用 deepseek-r1:7b 或 deepseek-r1:1.5b 等标签；如需局域网访问，配置监听地址为 0.0.0.0 并开放防火墙端口 11434。
• 路径 C：Cherry Studio / Dify（可视化与应用编排）
• 适用：可视化对话、知识库与工作流编排、企业应用集成。
• 准备：安装 Cherry Studio 或 Dify；在设置中指定本地模型路径或上游 API 地址；如需对外服务，配置端口与访问控制。

五 预检清单与常见问题预防

• 预检清单
• 系统版本、内存/磁盘、显卡与驱动版本、CUDA 与 PyTorch 对齐、Python 虚拟环境就绪、模型文件与校验值、目标端口未被占用、防火墙放行策略。
• 常见问题预防
• “CUDA out of memory”：降低 batch_size、启用 4bit/8bit 量化、减少并发或启用内存优化。
• “ModuleNotFoundError/DLL 加载失败”：确认虚拟环境激活、依赖完整安装、VC++ 运行库到位。
• “模型加载缓慢/卡住”：优先使用 SSD、开启半精度（如 fp16）、检查网络与磁盘健康。
• “API 无响应/端口冲突”：更换端口、检查服务是否启动、排查防火墙与占用进程。