Linux 上安全部署 Llama 3 的实操清单
一 基线安全与最小暴露面

• 创建专用系统用户（如 llama-user），以最小权限运行服务；模型与配置目录仅对该用户可读，使用 chmod/chown 收紧权限。
• 启用 SELinux/AppArmor 等强制访问控制（MAC），为 ollama/容器进程编写最小化策略，限制对敏感文件与网络的访问。
• 系统与依赖及时更新（内核、glibc、驱动、容器引擎等），减少已知漏洞利用面。
• 仅开放必要端口（默认 11434），通过 firewalld/iptables 限制来源；远程管理使用 SSH 密钥并禁用密码登录。
• 若非必须公网可达，优先将服务仅监听 127.0.0.1，避免暴露在公网。

二 网络与身份访问控制

• 远程访问时，将服务绑定到 127.0.0.1:11434，在前端使用 Nginx/HAProxy 做反向代理与 TLS/HTTPS（推荐 Let’s Encrypt），对外仅暴露 443。
• 在反向代理或应用层启用API 密钥校验（请求头如 X-API-Key），或在支持的版本中使用环境变量 OLLAMA_API_KEY 进行认证（建议版本 ≥ 0.5.12）。
• 配置 IP 白名单（firewalld 或 Nginx allow/deny），仅允许企业网段或跳板机访问。
• 避免将 11434 直接对公网开放；如确需公网，务必叠加 IP 白名单 + 强认证 + WAF/IPS 策略。

三 运行隔离与资源防护

• 优先采用 容器化 部署（Docker/Podman），以进程、网络与文件系统隔离降低风险；使用可信镜像并校验摘要。
• 对容器设置 CPU/内存/IO 限额，防止资源耗尽导致宿主机不稳定；模型目录以只读方式挂载，避免被容器内进程篡改。
• 结合 systemd 服务隔离（PrivateTmp、ProtectKernelTunables、NoNewPrivileges 等）与最小权限运行，减少提权与横向移动空间。

四 漏洞与合规重点

• 修复历史高危问题：早期版本（如 0.1.34 之前）存在任意文件读取/远程命令执行漏洞（如 CVE-2024-37032），务必升级至包含修复的版本，并持续关注后续 CVE。
• 限制敏感接口暴露：如 /api/show 可能泄露模型敏感信息（如 License），建议仅在内网使用或增加鉴权与访问控制。
• 模型来源与完整性：仅从官方或可信源拉取 Llama 3 模型，避免未签名/不可验证的模型文件；定期执行 ollama pull 更新到安全补丁版本。
• 周边组件安全：若与 Open WebUI 等前端同机部署，注意其历史文件上传漏洞（如 CVE-2024-6707），需及时升级并限制上传类型与大小。

五 监控审计与应急响应

• 启用服务与访问日志（如 ollama serve 的日志级别、访问日志），通过 rsyslog/ELK 集中存储与告警；对关键目录与配置文件启用 auditd 文件完整性监控。
• 部署 IDS/IPS（如 Snort/Suricata）识别端口扫描、暴力请求等异常流量；对异常登录、模型异常调用、资源突增设置阈值告警。
• 制定应急流程：出现未授权访问或异常行为时，立即封禁来源 IP、回滚到上一个安全版本、隔离受影响容器/主机、保留现场并复盘取证。

六 最小化配置示例

• 仅本地访问 + TLS 反向代理（Nginx）

1) 服务仅监听本地
sudo systemctl edit ollama.service
在 [Service] 段添加：Environment="OLLAMA_HOST=127.0.0.1:11434"
sudo systemctl daemon-reload && sudo systemctl restart ollama
2) 防火墙仅放行 443
sudo firewall-cmd --permanent --add-port=443/tcp && sudo firewall-cmd --reload
3) Nginx 配置片段（/etc/nginx/conf.d/ollama.conf）
server {
listen 443 ssl;
server_name your-domain.com;
ssl_certificate /path/to/fullchain.pem;
ssl_certificate_key /path/to/privkey.pem;
location / {
proxy_pass http://127.0.0.1:11434;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;

可选：API 密钥简单校验示例

if ($http_x_api_key != "YOUR_SECURE_KEY") { return 401; }

}

可选：IP 白名单

allow 192.168.1.0/24; deny all;

}
4) 重启 Nginx：sudo systemctl reload nginx
5) 客户端调用示例（携带密钥）
curl https://your-domain.com/api/generate -H "X-API-Key: YOUR_SECURE_KEY" -d '{
"model": "llama3",
"prompt": "用一句话介绍 Linux。",
"stream": false
}'
注：若使用 API 密钥，请确保代理或应用层校验逻辑正确并与客户端保持一致。