哥谭市原住民1. 项目概述
在2025-2026年度网络建设与运维技能大赛中，AI大模型搭建与运维模块成为了重点考核内容。这个模块要求参赛者在AI-SRV服务器上，基于vLLM框架部署Yuezhi-1.7B大语言模型，并通过Dify平台构建可定制的智能助手系统。整套方案不仅需要实现基础环境配置、模型部署和服务集成，还要确保系统具备稳定的AI服务能力，能够支持自然语言处理、智能问答等实际应用场景。
作为一名长期从事AI系统部署的工程师，我发现这套方案在实际企业环境中也具有很高的参考价值。它完整覆盖了从底层环境准备到上层应用开发的全流程，特别是在资源受限环境下（如仅使用CPU推理）的优化配置经验，对中小型企业构建自己的AI能力很有帮助。接下来，我将详细解析每个环节的技术要点和实操细节。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 基础环境配置
2.1 操作系统镜像挂载与持久化
在AI-SRV服务器上，我们首先需要将提供的操作系统镜像挂载到指定目录。这个步骤看似简单，但有几个关键细节需要注意：
bash复制# 创建挂载目录时使用-p参数确保父目录存在
mkdir -p /media/cdrom
# 使用lsblk确认光盘设备名称
# 注意：在虚拟化环境中可能是/dev/sr0，物理机可能是/dev/cdrom
lsblk
# 修改fstab实现开机自动挂载
# 重要：先备份原文件，再追加配置
cp /etc/fstab /etc/fstab.bak
echo "/dev/sr0 /media/cdrom iso9660 defaults,ro 0 0" >> /etc/fstab
# 测试挂载配置
mount -a
df -h /media/cdrom
经验提示：在fstab配置中，iso9660文件系统建议添加'ro'（只读）选项，避免意外写入导致错误。如果遇到"mount: /media/cdrom: WARNING: device write-protected, mounted read-only."提示，这实际上是正常现象，表明挂载成功。
2.2 软件源配置优化
配置本地软件源时，我们需要特别注意yum源的缓存机制和GPG校验：
bash复制# 创建自定义repo文件
cat > /etc/yum.repos.d/local.repo << 'EOF'
[local-base]
name=Local Base Repository
baseurl=file:///media/cdrom/BaseOS
enabled=1
gpgcheck=0
skip_if_unavailable=1
[local-appstream]
name=Local AppStream Repository
baseurl=file:///media/cdrom/AppStream
enabled=1
gpgcheck=0
skip_if_unavailable=1
EOF
# 清理旧缓存并建立新索引
yum clean all
yum makecache
在实际操作中，我发现yum makecache可能会因为依赖问题报错。这时可以尝试先安装createrepo工具：
bash复制# 如果makecache失败，先安装createrepo
rpm -ivh /media/cdrom/AppStream/Packages/createrepo_c-*.rpm
yum makecache
3. vLLM大模型环境搭建
3.1 Python虚拟环境与依赖安装
vLLM框架对Python环境有特定要求，创建隔离的虚拟环境是关键：
bash复制# 安装编译工具链
yum install -y gcc gcc-c++ make cmake
# 创建虚拟环境时指定Python3.8+版本
python3 -m venv