以下是在Linux上安装Llama3的详细流程:
确保系统满足基本要求,如安装较新内核,以及gcc
、make
等依赖软件包。对于基于Debian或Ubuntu的系统,可执行命令:sudo apt update && sudo apt install -y gcc make tar
;对于基于CentOS或Fedora的系统,可执行命令:sudo yum install -y gcc make tar
。
使用curl命令下载并运行Ollama的安装脚本:curl -fsSL https://ollama.com/install.sh | sh
。安装完成后,可通过ollama -v
命令测试是否安装成功。
使用ollama run llama3:8b
命令下载并运行80亿参数的Llama3模型。如果需要其他版本,可参考官方文档,如ollama run llama3.1:8b
。
如果想通过Web界面与Llama3交互,可安装dify。先安装Docker,再运行docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
命令,将OLLAMA_BASE_URL
设置为http://127.0.0.1:11434
即可。