以下是在Windows上安装DeepSeek R1的攻略:
ollama -v
验证,显示版本号即成功。D:\ollama\models
,并添加环境变量OLLAMA_MODELS
,值为D:\ollama\models
。若想让推理跑在GPU上,设置OLLAMA_GPU_LAYER
为cuda
,还可通过nvidia - smi - l
命令查看GPU的UUID来指定特定GPU。ollama run deepseek - r1:[具体版本号]
,如ollama run deepseek - r1:7b
,等待下载完成,显示“success”即成功。