Ubuntu 24.04部署ollama与GPU加速实战指南

1. 环境准备与系统检查

在Ubuntu 24.04上部署ollama并启用GPU加速前，需要确保系统环境满足基础要求。我建议先执行以下命令检查系统版本和硬件配置：

code复制lsb_release -a
lspci | grep -i nvidia

对于NVIDIA显卡用户，必须确认已安装适配的驱动版本。Ubuntu 24.04默认使用nouveau开源驱动，但ollama的GPU加速需要官方闭源驱动。可以通过以下步骤安装：

code复制sudo apt update
sudo ubuntu-drivers autoinstall
sudo reboot

安装完成后验证驱动状态：

code复制nvidia-smi

注意：如果使用AMD显卡，需要安装ROCm平台。目前ollama对AMD GPU的支持仍在完善中，建议优先考虑NVIDIA方案。

2. ollama的安装与配置

2.1 基础安装方案

官方推荐使用curl一键安装脚本：

code复制curl -fsSL https://ollama.ai/install.sh | sh

但由于网络原因，国内用户可能会遇到下载缓慢问题。这里分享两种优化方案：

方案一：使用国内镜像源

code复制curl -fsSL https://ollama.ai/install.sh | sed 's|https://ollama.ai|https://mirror.ollama.cn|g' | sh

方案二：手动下载预编译包

1. 访问镜像站获取最新Linux版本
2. 解压后执行：

code复制sudo cp ollama /usr/bin/
sudo chmod +x /usr/bin/ollama

2.2 服务化部署

建议将ollama配置为系统服务，避免终端关闭后进程终止：

code复制sudo tee /etc/systemd/system/ollama.service <<EOF
[Unit]
Description=Ollama Service
After=network.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollam