1. 项目概述:为什么选择本地部署DeepSeek?
最近在技术社区看到不少同行讨论大语言模型的本地部署方案,特别是国产的DeepSeek模型因其优秀的代码理解能力备受关注。作为一个长期折腾本地开发环境的"老司机",我决定把整套部署过程记录下来,重点解决三个痛点:如何避开常见安装陷阱、如何实现可视化交互、以及如何规范管理D盘存储空间。
选择本地部署而非云端API主要基于三个考虑:首先是数据安全性,特别是处理敏感代码时;其次是成本控制,长期使用比按次计费更经济;最重要的是可以深度定制,比如接入自己训练的微调模型。这次我将在Windows 11系统上完成全部部署,所有组件强制安装到D盘(毕竟C盘爆满的痛大家都懂)。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与空间规划
2.1 硬件配置建议
实测发现DeepSeek-7B模型在量化后至少需要:
- 16GB内存(推荐32GB)
- NVIDIA显卡(RTX 3060 12GB起步)
- D盘预留50GB空间(包含容器、模型文件和工具链)
注意:如果使用WSL2方案,建议通过
wsl --set-default-version 2命令确保使用第二代虚拟机架构,性能提升明显。
2.2 D盘目录结构设计
为避免后期混乱,建议提前规划目录:
code复制D:\AI_Deploy
├── /containers # Docker数据卷
├── /models # 模型文件
│ └── /deepseek
├── /venv # Python虚拟环境
└── /visualization # 可视化工具
通过管理员权限运行CMD执行以下命令创建结构:
bash复制mkdir D:\AI_Deploy
cd /d D:\AI_Deploy
mkdir containers models models\deepseek venv visualization
2.3 关键软件安装
- Docker Desktop定制安装:
- 下载安装包后运行
Docker Desktop Installer.exe --install-path="D:\Program Files\Docker" - 修改daemon.json配置数
- 下载安装包后运行
