1. 项目概述
最近在本地搭建了一个基于Dify和Ollama的大模型开发环境,整个过程踩了不少坑,也积累了一些经验。这篇文章将详细记录从零开始搭建Dify+Ollama+Qwen3:4b本地环境的完整流程,包括硬件准备、环境配置、模型部署和对接等关键步骤。
这个方案最大的优势是可以在本地离线运行,不需要依赖云端API,特别适合需要处理敏感数据或希望完全掌控模型运行环境的开发者。我选择的Qwen3:4b模型是一个4B参数规模的中文大语言模型,在本地运行效果不错,响应速度也完全可以接受。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备
2.1 硬件要求
在开始之前,我们需要确保本地硬件满足最低运行要求。以下是详细的硬件配置建议:
| 硬件类型 | 最低要求 | 推荐配置 | 备注 |
|---|---|---|---|
| 操作系统 | Windows 10 64位(版本≥2004) | Windows 11 64位 | 必须支持Hyper-V或WSL2 |
| CPU | 支持虚拟化(AMD-V/Intel VT),≥4核 | 8核及以上 | 虚拟化需在BIOS中开启 |
| 内存 | ≥8GB | 16GB+ | Qwen3:4b模型运行占用4-6GB,Docker+Dify占用4-8GB |
| 硬盘 | 剩余空间≥50GB | 剩余空间≥100GB | 含Docker镜像(约10GB)、Qwen3:4b模型(约2.4GB)、运行缓存 |
| 网络 | 稳定外网 | 百兆以上带宽 | 需下载Docker镜像、Dify源码、Ollama模型 |
提示:如果你的电脑是笔记本,建议连接电源使用,因为大模型运行会持续消耗较高电量。
2.2 WSL2安装与配置
Dify是基于Docker运行的开源大模型应用开发平台,在Windows系统上直接运行Docker或Dify容易出现兼容性、性能问题。WSL2(Windows Subsystem for Linux 2)能提供更原生的Linux环境,更适配Docker和Dify的运行需求。
2.2.1 启用WSL功能
- 以管理员身份打开PowerShell:按下
Win + X,选择「Windows PowerShell(管理员)」或「终端(管理员)」
