1. 项目概述
最近在AI圈子里,OpenClaw这个能听懂指令、能动手执行任务的AI引擎越来越火。作为一个长期关注AI落地的开发者,我发现它确实能解决很多实际问题——从办公自动化到智能家居控制,甚至开发辅助都能胜任。不过官方API的Token消耗实在太大,长期使用成本太高。
恰逢阿里开源了Qwen3.5系列模型,其中27B版本在各项基准测试中表现亮眼。于是我就琢磨:能不能用本地部署的Qwen3.5-27B替代官方API,再通过飞书机器人接入,打造一个完全私有的AI助手?经过一周的折腾,终于搞定了这套方案,现在我的团队都在用这个"私域龙虾助手"处理日常工作。
2. 环境准备
2.1 硬件配置建议
这套方案对硬件要求不低,建议配置:
- GPU:至少2张RTX 3090(24GB显存)或1张A100(40GB)
- 内存:64GB以上
- 存储:至少100GB SSD空间存放模型
我自己的测试环境是:
- CPU:AMD Ryzen 9 5950X
- GPU:2×NVIDIA RTX 3090
- 内存:128GB DDR4
- 系统:Ubuntu 22.04 LTS
2.2 软件依赖安装
首先确保系统有最新驱动:
bash复制sudo apt update && sudo apt upgrade -y
sudo apt install -y build-essential python3-pip
安装CUDA Toolkit(以12.1版本为例):
bash复制wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /"
sudo apt-get update
sudo apt-get -y install cuda-12-1
配置环境变量:
bash复制echo 'export PATH=/usr/local/cuda-12.1/bin${PATH:+:${PATH}}' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}' >> ~/.bashrc
source ~/.bashrc
3. 部署Qwen3.5-27B模型
3.1 模型下载与准备
使用ModelScope高效下载模型:
bash复制pip install modelscope
modelscope download --model="Qwen/Qwen3.5-27B" --local_dir Qwen3.5-27B
下载完成后检查模型文件:
bash复制ls -lh Qwen3.5-27B
应该能看到约50GB的模型文件。
3.2 使用vLLM启动API服务
安装vLLM及其依赖:
bash复制pip install vllm==0.16.1 torch==2.10.0 transformers==4.37.6
启动服务(适配双3090配置):
bash复制export CUDA_VISIBLE_DEVICES=0,1
vllm serve "Qwen3.5-27B" \
--host 0.0.0.0 \
--port 8000 \
--dtype bfloat16 \
--tensor-parallel-size 2 \
--gpu-memory-utilization 0.85 \
--api-key token-abc123 \
--enable-prefix-caching \
--trust-remote-code
关键参数解析:
tensor-parallel-size:必须与GPU数量一致gpu-memory-utilization:建议0.8-0.9之间dtype:A100可用float16,3090建议bfloat16
启动后可以用nvidia-smi查看显存占用,正常情况下每张3090应该占用约20GB显存。
3.3 服务测试
检查模型列表:
bash复制curl http://127.0.0.1:8000/v1/models -H "Authorization: Bearer token-abc123"
简单对话测试:
bash复制curl http://127.0.0.1:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer token-abc123" \
-d '{
"model": "Qwen3.5-27B",
"messages": [
{"role": "system", "content": "你是一个专业的技术助手"},
{"role": "user", "content": "如何优化Python代码的执行效率?"}
]
}'
4. OpenClaw本地部署
4.1 安装与初始化
安装Node.js(要求≥22版本):
bash复制curl -fsSL https://deb.nodesource.com/setup_22.x | sudo -E bash -
sudo apt-get install -y nodejs
安装OpenClaw:
bash复制npm install -g openclaw@latest --registry=https://registry.npmmirror.com
初始化配置(关键步骤):
bash复制openclaw onboard
在引导界面中选择:
- 模型供应商:vLLM
- Base URL:http://127.0.0.1:8000/v1
- API Key:token-abc123
- 模型名称:Qwen3.5-27B
4.2 网关管理
启动网关服务:
bash复制openclaw gateway start
检查状态:
bash复制openclaw gateway status
访问Web界面:
bash复制openclaw dashboard
默认会在浏览器打开http://localhost:3000
5. 飞书机器人集成
5.1 创建飞书应用
- 访问飞书开放平台
- 创建"企业自建应用"
- 添加"机器人"能力
- 开通以下权限:
- 获取用户发给机器人的单聊消息
- 获取用户在群组中@机器人的消息
- 通过手机号或邮箱获取用户ID
- 发送消息
5.2 OpenClaw配置对接
安装飞书插件:
bash复制openclaw plugins install @m1heng-clawd/feishu
配置飞书渠道:
bash复制openclaw config
选择Channels → Feishu,填写:
- App ID:飞书应用详情中的App ID
- App Secret:对应的App Secret
- 其他保持默认即可
重启网关使配置生效:
bash复制openclaw gateway restart
6. 使用与优化
6.1 基础功能测试
在飞书中给机器人发送:
code复制/help
应该能看到命令列表回复。
尝试简单问答:
code复制今天的日期是?
机器人应该能正确回答当前日期。
6.2 高级功能配置
添加常用技能:
bash复制openclaw skills add weather --desc "查询天气情况"
设置自动触发规则:
bash复制openclaw hooks add "天气" --command "weather"
6.3 性能优化建议
-
模型推理优化:
- 启用
--enable-prefix-caching减少重复计算 - 调整
--gpu-memory-utilization到0.9(如果显存足够)
- 启用
-
OpenClaw配置优化:
bash复制openclaw config set --max_tokens 2048 openclaw config set --temperature 0.7 -
飞书消息处理优化:
bash复制openclaw config set feishu.message_timeout 30
7. 常见问题排查
7.1 模型服务问题
问题:vLLM服务启动失败,报CUDA错误
解决:
- 检查CUDA驱动版本:
nvidia-smi - 确保CUDA环境变量配置正确
- 尝试降低
--gpu-memory-utilization值
问题:API响应慢
解决:
bash复制vllm serve ... --max_num_seqs 16 --max_num_batched_tokens 4096
7.2 OpenClaw问题
问题:网关无法启动
解决:
- 检查端口占用:
netstat -tulnp | grep 3000 - 清理旧进程:
pkill -f openclaw - 重新初始化:
openclaw onboard --reset
问题:飞书消息无响应
解决:
- 检查飞书应用权限配置
- 验证网络连通性:
bash复制
curl -v https://open.feishu.cn - 查看网关日志:
bash复制
journalctl -u openclaw-gateway -f
8. 系统维护
8.1 日常管理命令
查看运行状态:
bash复制openclaw status
更新所有组件:
bash复制npm update -g openclaw
openclaw plugins update --all
备份配置:
bash复制openclaw config export > openclaw_backup.json
8.2 资源监控方案
推荐使用Prometheus+Granfa监控:
- 安装Prometheus客户端:
bash复制
openclaw plugins install @m1heng-clawd/prometheus - 配置监控指标采集
- 设置告警规则
简易资源监控脚本:
bash复制watch -n 5 "nvidia-smi; echo; openclaw gateway status"
8.3 安全加固建议
- 修改默认API密钥:
bash复制openclaw config set --api_key your_new_token - 启用HTTPS:
bash复制
openclaw gateway config --ssl_cert /path/to/cert --ssl_key /path/to/key - 配置IP白名单:
bash复制openclaw config set --allowed_ips 192.168.1.0/24
这套私域AI助手方案在我们团队运行两个月以来,已经处理了3000+次任务请求,平均响应时间控制在1.5秒以内。特别是在处理日常办公自动化任务时,相比使用官方API节省了约75%的成本。最大的收获是数据完全私有,不用担心敏感信息泄露问题。
