Llama 3在Linux中怎么安装

Linux 安装 Llama 3 的简明步骤
一 安装 Ollama

• 在基于 Debian/Ubuntu 的发行版上，执行官方一键安装脚本：

curl -fsSL https://ollama.com/install.sh | sh

安装完成后会自动部署 Ollama 服务，可直接使用命令行工具 ollama。如需手动启动或排查，可执行 ollama serve。
二 拉取并运行 Llama 3

• 拉取并运行默认模型（会自动下载）：

ollama run llama3

• 根据硬件选择合适规格（示例）：

ollama run llama3:8b    # 约 8B 参数，适合普通电脑
ollama run llama3:70b   # 约 70B 参数，需更强算力

• 仅下载不运行：

ollama pull llama3

• 查看已安装模型：

ollama list

• 常用命令速览：ollama serve|create|show|run|pull|push|list|cp|rm|help。

三 作为服务运行与远程访问

• 创建系统服务（示例）：

sudo tee /etc/systemd/system/ollama.service >/dev/null <<'EOF'
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin"
# 允许远程访问
Environment="OLLAMA_HOST=0.0.0.0"
# 允许跨域（按需开启）
Environment="OLLAMA_ORIGINS=*"
# 自定义模型存放路径（可选）
Environment="OLLAMA_MODELS=/home/ollama/.ollama/models"
[Install]
WantedBy=default.target
EOF
sudo systemctl daemon-reload
sudo systemctl enable --now ollama

• 服务默认监听 11434 端口，可在本机或局域网通过 http://服务器IP:11434 访问。

四 命令行与 API 快速测试

• 命令行直接对话：

ollama run llama3 "用一句话介绍 Llama 3"

• 通过 API 生成文本（非流式）：

curl http://localhost:11434/api/generate -d '{
"model": "llama3",
"prompt": "Translate to Chinese: Meta Llama 3 is a powerful open LLM.",
"stream": false
}'

• 通过 API 对话（非流式）：

curl http://localhost:11434/api/chat -d '{
"model": "llama3",
"messages": [
{"role": "system", "content": "你是一名专业翻译。"},
{"role": "user", "content": "Hello, world!"}
],
"stream": false
}'

• 若需远程调用，请确保服务器防火墙放行 11434 端口，且服务配置了 OLLAMA_HOST=0.0.0.0。

五 可视化界面与常见问题

• 轻量 Web UI（Ollama WebUI Lite）：

git clone https://github.com/ollama-webui/ollama-webui-lite.git
cd ollama-webui-lite
npm install
npm run dev
# 浏览器访问控制台提示的地址（默认 3000 端口）

• 常见问题与建议：
• 硬件建议：有 NVIDIA 显卡更佳，显存建议 ≥8GB；磁盘预留 ≥20GB 空间。
• 模型规格：普通电脑优先选择 llama3:8b，显存不足时先关闭占用显存的其他程序。
• 下载失败：重试 ollama run llama3 或更换网络环境。
• 端口冲突：修改服务或前端映射端口（如将 3000 改为其他端口）。