飞鹰二1. Ollama 命令行工具概述
Ollama 是一个开源的本地大语言模型运行环境，它通过命令行界面（CLI）为用户提供了与各类开源大模型交互的能力。与云端API服务不同，Ollama的设计哲学是让开发者能够在本地环境中快速部署、运行和管理大语言模型，特别适合需要数据隐私保护、离线使用或自定义模型调优的场景。
初次接触Ollama时，最直观的感受就是它的命令行设计非常符合开发者习惯。所有功能都通过ollama主命令加上子命令的方式调用，这种结构与git、docker等常用开发工具保持了一致性，大大降低了学习成本。基础命令结构如下：
bash复制ollama <command> [args] [flags]
其中command代表要执行的具体操作，args是命令参数，flags则是可选的配置项。任何时候忘记用法时，都可以通过ollama --help查看完整的命令列表和简要说明。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 模型管理核心命令
2.1 模型获取与删除
pull命令是大多数用户最先接触的Ollama命令，它用于从模型仓库下载指定模型到本地：
bash复制ollama pull llama3
这个命令会下载Meta公司开源的Llama3模型。Ollama支持丰富的模型库，包括Mistral、Gemma、Qwen等主流开源模型。当网络连接不稳定时，可以添加--insecure参数跳过TLS验证：
bash复制ollama pull mistral --insecure
下载完成后，使用list命令可以查看本地已有的所有模型：
bash复制ollama list
输出结果会显示模型名称、大小、修改日期等基本信息。当需要清理磁盘空间时，rm命令可以删除不再需要的模型：
bash复制ollama rm llama2-chat
注意：删除操作不可逆，且Ollama没有内置回收站机制。对于重要模型，建议先使用
cp命令创建备份副本。
2.2 模型运行与控制
run命令是Ollama最常用的功能，它启动一个交互式会话与模型对话：
bash复制ollama run llama3
进入交互模式后，会看到模型提示符>>>，此时可以直接输入问题或指令。这个模式下支持一些特殊命令：
/bye退出交互/clear清空对话历史/help查看帮助
对于需要批量处理文本的场景，可以使用非交互模式：
bash复制ollama run llama3 -p "请总结这段话" < input.txt
当模型响应异常或需要释放资源时，stop命令可以终止运行中的模型实例：
bash复制ollama stop llama3
3. 高级模型操作
3.1 模型创建与定制
Ollama允许用户基于现有模型创建自定义版本。这需要准备一个Modelfile，这是一个定义模型行为的配置文件：
dockerfile复制FROM llama3
SYSTEM "你是一个专业的Python编程助手"
PARAMETER temperature 0.7
然后使用create命令构建新模型：
bash复制ollama create my-python-helper -f ./Modelfile
创建完成后，就可以像使用官方模型一样运行自定义模型：
bash复制ollama run my-python-helper
show命令可以查看模型的详细配置：
bash复制ollama show --modelfile my-python-helper
3.2 模型共享与分发
开发团队内部共享模型时，可以使用cp命令创建副本：
bash复制ollama cp llama3 team-llama
对于需要远程共享的场景，Ollama支持通过push命令将模型上传到registry：
bash复制ollama push my-username/my-model
对应的，其他团队成员可以通过pull命令获取这个共享模型：
bash复制ollama pull my-username/my-model
4. 系统管理与监控
4.1 服务管理
虽然Ollama会在第一次运行命令时自动启动后台服务，但有时可能需要手动管理：
bash复制ollama serve
这个命令会启动API服务，默认监听11434端口。要查看服务状态，可以使用：
bash复制ollama ps
这个命令会显示当前运行的模型实例及其资源占用情况。
4.2 API访问
当服务运行时，可以通过HTTP API与模型交互：
bash复制curl http://localhost:11434/api/generate \
-d '{"model":"llama3","prompt":"你好"}'
API支持流式响应，适合集成到各类应用中。完整的API文档可以通过访问http://localhost:11434查看。
5. 实用技巧与问题排查
5.1 国内用户加速下载
对于国内用户，模型下载速度慢是常见问题。可以通过设置镜像源解决：
bash复制export OLLAMA_HOST=mirror.ollama.china
ollama pull llama3
或者使用代理：
bash复制export https_proxy=http://127.0.0.1:7890
ollama pull mistral
5.2 参数调优
运行模型时可以调整各种参数以获得更好的效果：
bash复制ollama run llama3 --temperature 0.5 --top-p 0.9 --seed 42
常用参数包括：
--temperature控制输出随机性（0-1）--top-p核采样参数（0-1）--seed固定随机种子--num-predict限制输出长度
5.3 常见错误处理
当遇到unable to find image 'ollama/ollama:latest' locally错误时，通常需要先拉取基础镜像：
bash复制docker pull ollama/ollama
对于GPU相关错误，可以尝试强制使用CPU模式：
bash复制ollama run llama3 --device cpu
内存不足时可以限制模型使用的内存：
bash复制ollama run llama3 --num-gpu-layers 0 --main-gpu 0
6. 实际应用场景示例
6.1 编程辅助
将Ollama集成到开发环境中：
bash复制ollama run codellama -p "请优化这段Python代码:\n$(pbpaste)" | pbcopy
这个命令会从剪贴板获取代码，发送给模型优化，然后再存回剪贴板。
6.2 文档处理
批量处理Markdown文档：
bash复制for file in *.md; do
ollama generate llama3 -p "总结这个文档的主要内容" < "$file" > "summary_$file"
done
6.3 知识问答
构建本地知识库问答系统：
bash复制ollama run llama3 -s "你是一个技术支持助手，请根据以下文档回答问题: $(cat knowledge.txt)"
7. 性能优化建议
- 显存管理：大型模型需要足够的显存。可以通过
--num-gpu-layers参数控制使用GPU的层数：
bash复制ollama run llama3 --num-gpu-layers 20
- 量化模型：使用4-bit或8-bit量化版本可以显著减少内存占用：
bash复制ollama pull llama3:7b-q4_0
- 批处理请求：当处理多个相似请求时，合并它们可以提高吞吐量：
bash复制ollama generate llama3 -p "问题1: xxx\n问题2: xxx\n问题3: xxx"
- 上下文管理：长时间对话会积累上下文，适时使用
/clear命令可以释放内存。
8. 安全与权限控制
Ollama默认只监听本地接口(127.0.0.1)，如果需要远程访问，应该设置认证：
bash复制export OLLAMA_HOST=0.0.0.0
export OLLAMA_AUTH=require
export OLLAMA_USERNAME=admin
export OLLAMA_PASSWORD=securepassword
ollama serve
然后客户端访问时需要提供凭证：
bash复制curl -u admin:securepassword http://server-ip:11434/api/generate \
-d '{"model":"llama3","prompt":"hello"}'
对于生产环境，建议在前面部署Nginx等反向代理，添加SSL加密。