以下是DeepSeek R1在Windows上的最佳部署实践:
- 硬件准备:推荐RTX 3060及以上显卡,32GB DDR4内存,预留50GB SSD空间。
- 软件安装:安装Win10 21H2或Win11 23H2系统,安装CUDA 11.8、cuDNN 8.6.0、Python 3.9.16和Ollama。
- 模型部署:通过Ollama拉取模型,如
ollama run deepseek-r1:7b-q4_k_m
,并根据显存调整gpu_layers
等参数。 - 优化设置:可通过设置
OLLAMA_GPU_SPLIT
限制显存占用,或使用量化模型降低显存需求。 - 集成测试:使用Python代码测试模型能否正常生成回答。