Ollama：本地大语言模型部署与优化指南

1. Ollama 项目概述

Ollama 是一个开源的本地大语言模型（LLM）运行框架，它让开发者能够在个人电脑上高效部署和运行各类开源大模型。与需要联网的云服务不同，Ollama 提供了完全离线的模型运行环境，特别适合注重隐私保护、需要定制化模型或网络条件受限的场景。

我在实际使用中发现，Ollama 最大的优势在于其简洁的 CLI 接口和跨平台支持。无论是 macOS、Linux 还是 Windows，只需几条命令就能快速启动一个功能完整的语言模型服务。它内置了模型版本管理和自动下载功能，解决了手动部署模型时常见的依赖冲突问题。

2. 核心功能解析

2.1 模型管理

Ollama 采用类似 Docker 的模型管理方式，每个模型都以独立"容器"的形式运行。通过 ollama pull 命令可以下载官方仓库中的模型，目前支持 Llama 2、Mistral、Gemma 等多个主流开源模型家族。例如下载 7B 参数的 Llama 2 模型：

bash复制ollama pull llama2:7b

模型文件会自动存储在 ~/.ollama/models 目录下（Linux/macOS）或 %USERPROFILE%\.ollama\models（Windows）。实测在配备 16GB 内存的 M1 MacBook Pro 上，7B 参数的模型加载时间约 15 秒，响应速度接近实时。

2.2 交互模式

启动交互式会话只需要运行：

bash复制ollama run llama2:7b

这个模式下支持多轮对话，上下文长度默认为 2048 tokens。我建议首次使用时先尝试以下测试提示词：

code复制>>> 请用中文总结《三体》的核心剧情

模型会保持对话状态直到显式退出，期间所有历史记录都保存在内存中。对于需要持久化会话的场景，可以通过 --verbose 参数查看详细的 token 消耗情况。

3. 高级配置技巧

3.1 性能优化

在 ~/.ollama/config.json 中可以调整关键运行参数：

json复制{
  "num_ctx": 4096,
  "num_gqa": 8,
  "num_thread": 6,
  "tempe