Linux下Llama3安装指南

以下是在Linux下安装Llama3的指南：

环境准备

• 确保系统满足要求，如安装较新内核，以及gcc、make等依赖软件包。对于基于Debian或Ubuntu的系统，可执行sudo apt update && sudo apt install -y gcc make tar；对于基于CentOS或Fedora的系统，可执行sudo yum install -y gcc make tar。
• 若使用GPU，需安装CUDA Toolkit，可按照NVIDIA官网指示下载安装适合系统的版本。

安装Llama3

• 使用Ollama工具部署：访问Ollama官网下载适用于Linux的二进制包，赋予执行权限，将其移动到/usr/local/bin目录。运行ollama run llama3:8b命令下载并运行模型，若需其他版本可参考官方文档。
• 从GitHub部署：克隆Llama3仓库，创建并激活Python虚拟环境，安装依赖，配置运行环境，然后运行相关代码文件。具体步骤可参考。