1. 项目概述：在Windows笔记本上免费部署OpenClaw+Ollama本地AI助手
最近在折腾一个有意思的玩法——用老笔记本搭建本地AI助手。不需要昂贵的云计算资源，也不用担心token消耗问题，完全在Windows环境下运行OpenClaw和Ollama的组合。这个方案特别适合想体验大模型能力但又受限于预算的开发者。
OpenClaw本质上是一个AI助理网关，能把各种聊天软件（微信、Telegram、Slack等）的消息路由到你本地的AI模型。而Ollama则是管理本地大模型的工具链，两者配合使用就能实现"私人AI助理"的效果。最吸引我的是整个过程完全免费，模型推理全部在本地完成，不存在API调用费用。
2. 环境准备与工具安装
2.1 硬件需求评估
我的测试设备是一台5年前的游戏本，配置如下：
- CPU: i7-8750H (6核12线程)
- 内存: 32GB DDR4
- 显卡: GTX 1060 6GB
- 存储: 512GB NVMe SSD
虽然不算高端配置，但实测运行7B参数的量化模型还算流畅。如果要运行更大的模型（如13B以上），建议至少16GB显存。这里有个小技巧：在Ollama启动时添加--numa参数可以让模型分布在CPU和GPU上运行，显著降低显存需求。
2.2 软件依赖安装
-
Python环境：
推荐使用Miniconda创建独立环境：bash复制
conda create -n ollama python=3.10 conda activate ollama -
Ollama安装：
直接从官网下载Windows安装包：bash复制choco install ollama # 或者手动下载exe安装 -
OpenClaw安装：
通过npm安装（需先安装Node.js）：bash复制
npm install -g @openclaw/cli
注意：如果遇到权限问题，建议以管理员身份运行PowerShell。安装完成后务必重启终端。
3. 模型部署与配置
3.1 国内镜像加速
由于直接拉取模型可能很慢，可以配置国内镜像源：
bash复制ollama mirror set https://ollama.mirrors.example.com
推荐几个稳定的镜像源：
- 阿里云Ollama镜像
- 华为云ModelArts镜像
- 清华TUNA镜像站
3.2 模型下载与量化
选择适合本地运行的模型很重要。我的设备跑得动的是Qwen-7B量化版：
bash复制ollama pull qwen:7b-q4_0
量化参数说明：
- q4_0: 4-bit量化，约6GB显存
- q5_0: 5-bit量化，质量更好但需要8GB显存
- q8_0: 8-bit量化，接近原版效果但需要16GB显存
3.3 OpenClaw基础配置
初始化配置：
bash复制openclaw init
关键配置项：
yaml复制# ~/.openclaw/config.yaml
model: "qwen:7b-q4_0"
context_window: 4096 # 根据显存调整
web_search: false # 本地模型暂不支持
channels: # 启用微信接口
wechat: true
4. 实战：微信接入本地AI
4.1 微信开发者模式配置
- 注册微信开放平台账号
- 创建"网页应用"获取AppID和AppSecret
- 配置服务器地址（需内网穿透）
4.2 OpenClaw微信插件安装
bash复制openclaw plugin install wechat
配置微信凭证：
bash复制openclaw configure --section wechat
4.3 内网穿透方案
由于微信要求公网回调地址，推荐使用：
- ngrok（简单但有限制）
- frp（自建服务器）
- 花生壳（国内稳定）
我的frp配置示例：
ini复制[common]
server_addr = your_server_ip
server_port = 7000
[wechat]
type = http
local_port = 8080
custom_domains = your_domain.com
5. 性能优化技巧
5.1 显存不足解决方案
当出现CUDA out of memory错误时：
- 减小context_window（默认4096可降到2048）
- 使用
--numa参数混合计算：bash复制
ollama run qwen:7b-q4_0 --numa - 启用量化缓存：
bash复制export OLLAMA_QUANT_CACHE=/path/to/cache
5.2 加速推理的实用参数
bash复制ollama run qwen:7b-q4_0 \
--num_threads 8 \ # 使用8个CPU线程
--batch_size 32 \ # 适当增大批处理
--flash_attn # 启用FlashAttention
6. 常见问题排查
6.1 模型加载失败
现象：Error: missing model manifest
解决：
- 检查模型是否完整：
bash复制
ollama inspect qwen:7b-q4_0 - 重新拉取模型：
bash复制ollama rm qwen:7b-q4_0 ollama pull qwen:7b-q4_0
6.2 微信消息不回复
排查步骤：
- 检查OpenClaw日志：
bash复制
journalctl -u openclaw -f - 验证微信接口连通性：
bash复制
curl http://localhost:8080/wechat/health - 检查token有效期（需每2小时刷新）
7. 进阶玩法探索
7.1 自定义技能开发
OpenClaw支持插件开发，示例技能：
python复制# ~/.openclaw/plugins/weather.py
from openclaw.skills import Skill
class WeatherSkill(Skill):
def handle(self, text):
if "天气" in text:
return "今天天气晴朗，气温25℃"
注册技能：
bash复制openclaw skill add weather
7.2 多模型路由配置
高级配置示例：
yaml复制models:
default: qwen:7b-q4_0
routes:
- pattern: ".*代码.*"
model: codegen:7b
- pattern: ".*翻译.*"
model: nllb:3b
启动多模型网关：
bash复制openclaw gateway start --multi
经过两周的实测，这套方案在老旧笔记本上运行稳定，虽然响应速度不如云端API快（平均3-5秒/回复），但完全免费且隐私性极佳。最大的收获是学会了如何根据硬件条件调整模型参数，这对理解大模型的工作原理很有帮助。建议初次尝试时从小模型开始，逐步调整到设备能承受的极限。