llama3 Linux版怎么装

下面以 Meta 官方的 Llama 3（llama3）在 Linux 上安装 为例，给你一套最常用、最稳妥的做法。

如果你指的是 Ollama / llama.cpp / HuggingFace 方式，我也可以再单独讲。

一、前置条件（很重要）

1️⃣ 系统要求

• Linux（Ubuntu 20.04+ 推荐）
• Python 3.9+
• 显卡（可选，但强烈建议）
• NVIDIA GPU（CUDA 11.8+）
• 至少 16GB 内存（8B 模型）
• 推荐 24GB+ 显存（70B 模型）

2️⃣ 安装基础工具

sudo apt update
sudo apt install -y git wget curl build-essential

二、方式一（✅ 最简单）：用 Ollama 安装 Llama 3（推荐）

1️⃣ 安装 Ollama

curl -fsSL https://ollama.com/install.sh | sh

安装完成后检查：

ollama --version

2️⃣ 下载并运行 Llama 3

ollama run llama3

默认是 llama3:8b
如果你想用 70B：

ollama run llama3:70b

✅ 直接就能聊天，不需要手动下载权重。

3️⃣ 常用命令

ollama list        # 查看已安装模型
ollama rm llama3   # 删除模型

三、方式二：从 Meta 官方安装（高级）

⚠️ 需要 Meta 授权 + HuggingFace 账号

1️⃣ 申请模型访问

• 访问：https://ai.meta.com/llama/
• 填写申请（一般几小时通过）

2️⃣ 安装 Hugging Face CLI

pip install huggingface_hub
huggingface-cli login

3️⃣ 下载模型

huggingface-cli download meta-llama/Meta-Llama-3-8B-Instruct \
--local-dir llama3-8b

四、方式三：用 llama.cpp（CPU / 低显存）

适合：

• 没有强显卡
• 想本地跑量化模型

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
make

下载 GGUF 模型（例如从 HuggingFace）：

./main -m llama3-8b-q4_0.gguf -p "你好"

五、Python 调用 Llama 3（可选）

pip install transformers accelerate

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
"meta-llama/Meta-Llama-3-8B-Instruct",
device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(
"meta-llama/Meta-Llama-3-8B-Instruct"
)

六、我帮你选方案

你可以直接告诉我：
1️⃣ 有没有 NVIDIA 显卡？
2️⃣ 想跑 8B 还是 70B？
3️⃣ 是 聊天 / 编程 / 本地部署 / 服务器？
我可以直接给你 一条最适合你的命令方案 ✅