ollama本地大模型部署：12个核心命令详解

1. ollama基础命令解析

ollama作为当前热门的本地大模型部署工具，其命令行操作是每位使用者必须掌握的核心技能。我整理了实际工作中最常用的12个命令及其组合用法，这些命令覆盖了从模型管理到服务配置的全流程操作。

1.1 模型管理三剑客

ollama pull 是最基础的模型获取命令，其完整语法为：

bash复制ollama pull <model_name>:<tag>

例如获取deepseek的8b参数模型：

bash复制ollama pull deepseek-r1:8b

注意：国内用户建议先配置镜像源加速下载，否则可能出现下载中断或速度极慢的情况

ollama list 用于查看本地已下载的模型列表，输出包含模型名称、标签和占用空间：

bash复制ollama list
# 输出示例
# NAME            TAG       SIZE
# deepseek-r1     8b        15.2GB
# llama2          latest    13.4GB

ollama rm 则是模型删除命令，当磁盘空间不足时需要清理旧模型：

bash复制ollama rm deepseek-r1:8b

1.2 模型运行与交互

ollama run 是最常用的模型启动命令，支持多种运行参数：

bash复制ollama run deepseek-r1:8b --temperature 0.7 --top-p 0.9

关键参数说明：

• --temperature：控制生成随机性（0-1）
• --top-p：核采样概率阈值
• --num_ctx：上下文窗口大小

交互模式下可直接输入问题：

bash复制>>> 用Python写一个快速排序算法

2. 高级配置命令

2.1 服务管理命令

启动后台服务（默认监听11434端口）：

bash复制ollama serve

自定义服务配置：

bash复制ollama serve --host 0.0.0.0 --port 8080

2.2 模型创建与定制

基于现有模型创建自定义模型：

bash复制ollama create my-model -f Modelfile

Modelfile示例：

code复制FROM deepseek-r1:8b
PARAMETER temperature 0.8
SYSTEM "你是一个专业的Python编程助手"

2.3 系统管理命令

查看运行状态：

bash复制ollama ps

停止运行中的模型实例：

bash复制ollama stop my-model

3. 国内用户特别优化

3.1 镜像加速配置

临时使用镜像源：

bash复制OLLAMA_HOST=mirror.ollama.com ollama pull deepseek-r1:8b

永久修改配置（Linux/macOS）：

bash复制echo 'OLLAMA_HOST="mirror.ollama.com"' >> ~/.bashrc
source ~/.bashrc

3.2 磁盘空间管理

指定模型下载目录：

bash复制OLLAMA_MODELS=/data/ollama-models ollama pull deepseek-r1:8b

清理缓存文件：

bash复制ollama prune

4. 常见问题解决方案

4.1 下载中断处理

断点续传技巧：

bash复制OLLAMA_DOWNLOAD_TIMEOUT=3600 ollama pull deepseek-r1:8b

4.2 内存不足问题

限制GPU内存使用：

bash复制OLLAMA_GPU_MEMORY=4096 ollama run deepseek-r1:8b

4.3 模型加载失败

强制重新下载：

bash复制ollama pull --force deepseek-r1:8b

5. 实用命令组合

5.1 自动化部署脚本

bash复制#!/bin/bash
OLLAMA_HOST=mirror.ollama.com
OLLAMA_MODELS=/data/ollama-models

ollama pull deepseek-r1:8b && \
ollama create my-ai -f Modelfile && \
ollama serve --host 0.0.0.0 --port 8080

5.2 模型批量更新

bash复制for model in $(ollama list | awk 'NR>1 {print $1":"$2}'); do
    ollama pull $model
done

经验提示：实际使用中发现，在Linux系统下配合tmux可以保持服务稳定运行，避免SSH断开导致服务终止