1. 项目概述
在Windows系统上搭建一个完整的本地AI助手系统,通过飞书或QQ作为交互入口,OpenClaw作为智能调度中心,Ollama提供本地大模型推理能力,实现完全本地化的智能对话体验。这个方案特别适合需要保护数据隐私、又希望获得AI辅助的个人用户和小型团队。
核心优势在于:
- 完全本地运行,数据不出本地
- 16GB内存即可流畅运行7B参数模型
- 支持多平台接入(飞书/QQ)
- 开源工具链,可自由扩展
我实际测试下来,这套系统在i5-8250U+16GB内存的笔记本上运行流畅,7B模型的响应速度在3-5秒左右,完全能满足日常办公辅助需求。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 硬件与系统准备
2.1 硬件配置要求
推荐配置:
- CPU:Intel i5 8代或以上(支持AVX2指令集)
- 内存:16GB(7B模型最低要求)
- 存储:至少10GB可用空间
- 显卡:非必须,但如果有NVIDIA显卡(支持CUDA)可显著提升推理速度
实测发现,13B模型在16GB内存的机器上虽然能运行,但会出现明显卡顿。如果主要做文字处理辅助,7B模型的表现已经足够好。
2.2 系统环境准备
几个关键的系统设置需要注意:
-
用户账户名必须为英文:
- 中文用户名会导致部分工具路径解析错误
- 修改方法:控制面板 → 用户账户 → 更改账户类型 → 创建新账户(英文名)
-
关闭杀毒软件实时防护:
- 360安全卫士、腾讯电脑管家等可能会误删关键文件
- 建议安装完成后再重新启用
-
PowerShell执行策略调整:
powershell复制Set-ExecutionPolicy RemoteSigned -Scope CurrentUser这个设置允许运行本地脚本,但会阻止远程未签名脚本,在安全性和便利性间取得平衡。
3. 核心组件安装
3.1 Ollama安装与配置
Ollama是目前最方便的本地大模型运行工具,支持一键下载和运行多种开源模型。
3.1.1 安装注意事项
安装时务必勾选"Add to PATH"选项,否则后续无法通过命令行调用。安装完成后,系统托盘会出现海豚图标,表示服务已启动。
