以下是一些Windows部署DeepSeek R1的技巧:
- 硬件选择:根据模型大小选择合适硬件,如14B及以上版本建议RTX 3060及以上显卡、32GB以上内存。
- 软件环境:安装Ollama时以管理员身份运行,安装路径避免使用空格。可开启CUDA加速,在Ollama启动命令后添加“--gpu”参数。
- 模型部署:通过Ollama官网选择合适版本模型,复制命令行代码到终端执行,注意模型默认安装在C盘,可修改环境变量更改路径。
- 交互界面:使用Chatbox等工具搭建可视化界面,安装后配置Ollama API即可。