谁教Linux安装llama3

AI技术
小华
2026-09-25

下面给你从零开始在 Linux 上安装并使用 Llama 3(Meta 官方模型) 的清晰教程,适合新手,也适合服务器环境。

一、前置条件(先确认)

1️⃣ 系统要求

  • Linux(Ubuntu / CentOS / Debian 都行)
  • 推荐:
  • 内存 ≥ 16GB(8B 模型)
  • 有 NVIDIA 显卡(可选,但强烈建议)
  • 磁盘空间:
  • Llama 3 8B 约 15GB
  • Llama 3 70B 约 140GB

二、安装方式(推荐 Ollama,最简单)

✅ 方式一:用 Ollama(强烈推荐)

1️⃣ 安装 Ollama

curl -fsSL https://ollama.com/install.sh | sh

安装完成后重启终端,或:

source ~/.bashrc

2️⃣ 拉取 Llama 3

ollama pull llama3
默认是 llama3:8b
如果你想用更大的:
ollama pull llama3:70b

3️⃣ 运行 Llama 3

ollama run llama3

✅ 然后就可以直接聊天了!

三、GPU 加速(可选但强烈建议)

检查 NVIDIA 驱动

nvidia-smi

如果没有输出,先装驱动:

sudo ubuntu-drivers autoinstall
sudo reboot

Ollama 会自动使用 GPU,无需额外配置。

四、不用 Ollama?用官方方式(进阶)

1️⃣ 安装 Python 环境

sudo apt update
sudo apt install python3 python3-pip -y
pip install torch transformers accelerate

2️⃣ 下载并运行(示例)

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B")
tokenizer = AutoTokenizer.from_pretrained("meta-llama/Meta-Llama-3-8B")
input_text = "你好"
inputs = tokenizer(input_text, return_tensors="pt")
outputs = model.generate(**inputs)
print(tokenizer.decode(outputs[0]))

⚠️ 注意:

  • 官方模型需要 Meta 授权
  • 国内网络可能需代理

五、常见问题

❓ llama3 是什么?

  • Meta 发布的开源大模型
  • 有 8B / 70B 版本
  • 支持中文(但英文更强)

❓ 没有显卡能跑吗?

✅ 能,但很慢(CPU 模式)

❓ 能不能当 API 用?

可以:

ollama serve

然后访问:

http://localhost:11434

六、我还能教你什么?

我可以继续教你:

  • ✅ Llama3 + WebUI
  • ✅ Llama3 微调
  • ✅ Llama3 本地知识库
  • ✅ Llama3 + Docker
  • ✅ 服务器多用户部署

你现在是 个人电脑 / 服务器 / 云主机?我可以按你的环境一步步教。

亿速云提供售前/售后服务

售前业务咨询

售后技术保障

400-100-2938

7*24小时售后电话

官方微信小程序