如何本地运行DeepSeekR1

在本地运行 DeepSeek-R1（深度求索公司开源的推理模型）通常有两种主流方式：用 Ollama（最省事，推荐新手） 和 用 vLLM / Transformers（更适合开发/高性能）。

下面按「从易到难」给你讲清楚。

一、最简单：用 Ollama 本地运行（推荐）

1. 安装 Ollama

macOS / Windows：

Linux：

curl -fsSL https://ollama.com/install.sh | sh

验证：

ollama --version

2. 拉取并运行 DeepSeek-R1

DeepSeek-R1 有多个尺寸（1.5B / 7B / 8B / 14B / 32B / 70B / 671B）
例如运行 7B（普通电脑可跑）：

ollama run deepseek-r1:7b

更小模型（低配电脑）：

ollama run deepseek-r1:1.5b

运行后就可以直接聊天了。

3. 硬件建议

模型	显存	内存
1.5B	无独显也可	8GB
7B	6–8GB	16GB
14B	12–16GB	32GB
32B+	24GB+	64GB+

二、用 Docker + Open WebUI（像 ChatGPT）

docker run -d -p 3000:8080 \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:main

然后浏览器打开：

http://localhost:3000

在模型里选 `deepseek-r1`

三、开发者方式：vLLM（高性能推理）

适合：API 服务 / 多用户 / 高并发

pip install vllm

vllm serve deepseek-ai/DeepSeek-R1-Distill-Llama-8B

调用：

curl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-ai/DeepSeek-R1-Distill-Llama-8B",
"messages": [{"role":"user","content":"你好"}]
}'

四、注意事项（很重要）

DeepSeek-R1 原版 671B 不适合个人电脑

本地一般跑 蒸馏版（Distill）

模型会“思考”（输出推理过程）

对话中能看到 ...

中文 / 数学 / 代码能力很强
法律合规：仅用于研究 & 学习

五、我该选哪个？

✅ 纯聊天 / 学习 → Ollama
✅ 想有界面 → Ollama + Open WebUI
✅ 写程序调用 → vLLM
✅ 服务器部署 → vLLM + Docker

如果你告诉我：

你的 系统（Win / Mac / Linux）
显卡型号
用途（聊天 / 开发 / 部署）

我可以直接给你 一条最合适的具体命令。