DeepSeek‑R1 有不同参数规模,显存需求差别很大:
| 模型规模 | 推荐显存 | 是否可 CPU 运行 |
|---|---|---|
| 1.5B | 6GB+ | ✅ 可 |
| 7B | 12GB+ | ✅ 可(慢) |
| 14B | 24GB+ | ❌ 不推荐 |
| 32B/70B | 48GB+ | ❌ 不推荐 |
✅ 有 NVIDIA 显卡优先
python --version验证:
nvidia-smihttps://ollama.com/download/windows
安装完成后重启终端。
ollama run deepseek-r1可选指定规模:
ollama run deepseek-r1:7b✅ 优点:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
pip install transformers acceleratefrom transformers import AutoModelForCausalLM, AutoTokenizer
model_path = "deepseek-ai/DeepSeek-R1"
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(
model_path,
device_map="auto",
torch_dtype="auto"
)
prompt = "解释什么是强化学习"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))⚠️ 注意:
→ 会直接报错
→ 程序卡死或闪退
✅ 解决:
--cpu / device_map="cpu"✅ 用 Windows Terminal
✅ 设置 UTF‑8:
chcp 65001✅ 解决:
✅ Windows + NVIDIA 显卡
Ollama →ollama run deepseek-r1:7b
✅ 无显卡 / 办公电脑
Ollama →ollama run deepseek-r1:1.5b
✅ 研究 / 开发
Hugging Face + Transformers
如果你愿意,可以告诉我:
我可以给你 最合适的安装方案 + 命令。