适合:几乎所有人(不会折腾、想快速用上)
在命令行输入:
ollama run deepseek-r1默认会下载 7B 版本
如果你显存 ≥ 12GB,可以用更大的:
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b✅ 优点:
适合:不想写命令、只看/聊模型
DeepSeek R1⚠️ 注意:
适合:需要微调 / 集成到项目 / 研究用途
| 版本 | 显存 |
|---|---|
| 7B | 10GB+ |
| 14B | 24GB+ |
| 32B | 48GB+ |
python -m venv deepseek
deepseek\Scripts\activatepip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
pip install transformers acceleratefrom transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
"deepseek-ai/DeepSeek-R1",
device_map="auto",
torch_dtype="auto"
)
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-R1")
prompt = "推理题:1, 2, 4, 8, ?"
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0]))❌ CUDA 不匹配
nvidia-smi❌ 爆显存
ollama 或量化模型(GGUF / 4bit)❌ 模型很慢
| 你的需求 | 建议 |
|---|---|
| 只想用 | ✅ Ollama |
| 想要界面 | ✅ LM Studio |
| 做开发/研究 | ✅ Python |
| 低配置电脑 | ✅ 云端 API |
如果你愿意,可以告诉我:
我可以直接给你 最合适的一套安装方案 + 使用教程。