1. 项目概述:从零搭建本地AI知识库系统
最近在折腾一个很有意思的项目——用Dify和Ollama搭建本地化AI知识库系统。这个方案特别适合需要处理敏感数据的企业或个人开发者,也适合想要低成本尝试大模型应用的初学者。整个系统搭建完成后,你可以在内网环境实现类似ChatGPT的知识问答功能,还能上传自己的文档构建专属知识库。
我选择Dify作为应用框架,主要是看中它的几个特点:开源免费、支持可视化工作流编排、提供完整的API管理功能。而Ollama则是目前最方便的本地大模型运行方案,支持一键部署各种开源模型,从7B到70B参数规模的模型都能跑。两者结合使用,既解决了AI能力本地化的问题,又提供了友好的应用开发界面。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与基础配置
2.1 硬件与系统要求
建议的硬件配置:
- CPU:至少4核(推荐8核以上)
- 内存:16GB起步(运行7B模型最低要求)
- 显卡:非必须,但有NVIDIA显卡(显存≥8GB)可加速推理
- 存储:50GB可用空间(用于存放模型和知识库文件)
系统环境:
- Linux(Ubuntu 22.04 LTS推荐)
- Docker 20.10+
- Docker Compose 2.0+
注意:Windows系统可通过WSL2运行,但性能会有10-15%的损耗。Mac M系列芯片用户需要单独处理ARM架构的兼容性问题。
2.2 网络与端口规划
系统需要开放的端口:
- 80:Dify Web界面(可修改)
- 11434:Ollama服务端口(可修改)
- 3000:Dify API服务(内部使用)
建议提前检查端口占用情况:
bash复制sudo lsof -i :80
sudo lsof -i :11434
如果端口冲突,可以在.env文件中修改Dify的端口配置,或调整Ollama的服务端口。
3. Dify安装与配置详解
3.1 基础安装步骤
- 克隆仓库(建议使用国内镜像加速):
bash复制git clone https://gitee.com/langgenius/dify.git
- 进入docker目录:
bash复制cd dify/docker
- 复制环境配置文件:
bash复制cp
