在Windows环境部署DeepSeek R1,可参考以下流程:
winget install Ollama.Core --version 0.1.8
,安装完成后将Ollama路径添加到系统环境变量,通过ollama --version
验证安装。ollama pull deepseek/r1:7b-q4_k_m
命令下载4-bit量化版本的DeepSeek R1模型,可根据显存情况选择其他版本。~/.ollama/models/manifests/deepseek/r1/config.json
文件中的context_window
和gpu_layers
参数,以适配硬件。from ollama import Client; client = Client(base_url='http://localhost:11434'); response = client.generate(model='deepseek/r1', prompt='测试内容'); print(response['response'])
进行集成测试。