Windows系统安装DeepSeekR1指南
pip install --upgrade pip)、CUDA Toolkit(如12.4)、cuDNN(如8.9+,需与CUDA版本匹配)。nvcc --version(验证CUDA安装)、python --version(验证Python版本)。.zip格式;若官网提供.exe安装程序,可直接下载)。C:\DeepSeek-R1);若为压缩包内的子压缩包(如Setup.zip),需进一步解压。cd C:\DeepSeek-R1)。pip install -r requirements.txt。cu118为对应CUDA版本,如cu121):pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118。
Path,点击“编辑”,添加DeepSeekR1的安装路径(如C:\DeepSeek-R1)。deepseek-r1 --version。DeepSeek-R1 1.5b),则说明安装成功。git-lfs):git lfs install
git clone https://huggingface.co/deepseek-ai/deepseek-r1-7bllama.cpp的Windows移植版进行转换;若为PyTorch格式,可直接加载。ctransformers库,加载GGML模型并指定GPU层数(如gpu_layers=50):from ctransformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("deepseek-r1-7b.ggmlv3.q4_0.bin", model_type="llama", gpu_layers=50)bitsandbytes库):import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("deepseek-r1-7b")
model = AutoModelForCausalLM.from_pretrained("deepseek-r1-7b", device_map="auto", load_in_8bit=True)pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple;或手动安装每个依赖项,确保版本符合requirements.txt要求。deepseek-r1命令。Path变量是否添加了DeepSeekR1的安装路径,确保路径无多余符号或空格;运行source命令(Windows无需此步)使配置生效。gpu_layers参数值);关闭其他占用显存的程序。gpu_layers参数(如增加至80)以提升推理速度;使用bitsandbytes库进行8-bit量化,减少显存占用。logging模块记录运行日志,便于排查错误;通过pdb或PyCharm进行断点调试,解决代码逻辑问题。