云端调用本地Ollama大模型：FRP内网穿透实战

1. 项目概述

最近在折腾一个很有意思的技术方案：如何让部署在云服务器上的OpenClaw应用调用本地Windows电脑运行的Ollama大语言模型。这个方案特别适合那些想在云端使用AI能力，但又希望保持模型本地化运行的用户。

核心思路其实很简单：通过内网穿透技术，将本地运行的Ollama服务暴露给云端服务器。这样既保证了模型数据的安全性（因为模型始终运行在你的本地电脑上），又能享受云端应用的便利性。整个过程涉及到几个关键技术点：

1. 本地Ollama服务的配置与优化
2. 稳定可靠的内网穿透方案实现
3. OpenClaw与Ollama的对接配置
4. GPU加速调优技巧

我花了差不多一周时间反复测试和优化这个方案，期间踩了不少坑，也积累了一些实用经验。下面就把这个方案的完整实现过程分享给大家，特别是那些和我一样想在云端使用本地AI模型的开发者们。

2. 本地Ollama环境配置

2.1 基础环境准备

首先需要在Windows电脑上安装并配置Ollama。安装过程很简单，直接从官网下载安装包即可。但有几个关键配置需要注意：

1. 设置Ollama监听所有网络接口
2. 配置跨域访问权限

这两个设置需要通过环境变量来完成。打开PowerShell，执行以下命令：

powershell复制# 设置监听所有IP
[Environment]::SetEnvironmentVariable("OLLAMA_HOST", "0.0.0.0:11434", "User")

# 允许跨域访问
[Environment]::SetEnvironmentVariable("OLLAMA_ORIGINS", "*", "User")

注意：修改环境变量后，必须完全重启Ollama服务才能生效。建议通过任务管理器结束所有Ollama相关进程，然后重新启动应用。

2.2 模型下载与管理

Ollama支持多种开源大语言模型，我测试了Qwen3.5系列的不同参数版本。对于大多数消费级显卡（如RTX 3060 12GB），建议使用2B参数的版本：

bash复制ollama pull qwen3.5:2b

下载完成后，可以通过以下命令验证模型是否可用：

bash复制ollama run qwen3.5: