以下是在Windows上安装OpenELM的详细指南:
环境准备
- 操作系统:推荐Windows 11。
- 硬件要求:内存至少16GB,推荐32GB;存储至少50GB可用空间,建议用SSD;GPU推荐NVIDIA 3090/4090(24GB显存)及以上。
- 软件依赖:安装Python 3.7及以上版本,以及pip。还需安装Visual Studio构建工具。
安装步骤
- 安装Ollama:访问Ollama官网,下载适用于Windows的安装程序并运行,完成安装。
- 安装相关库:打开命令提示符,运行
pip install transformers torch datasets
,安装OpenELM所需的Python库。 - 下载模型:可通过Ollama下载,如
ollama run apple/OpenELM-270M
,也可从Hugging Face Hub下载,需先获取访问令牌。
可选步骤:搭建Web交互界面
- 启用Hyper - V:打开“控制面板”→“程序”→“启用或关闭Windows功能”,勾选“Hyper - V”,然后重启电脑。
- 安装Docker Desktop:访问Docker官网,下载并安装适合Windows系统的版本。