1. 项目概述
GPUStack 作为新一代 GPU 资源管理框架,在昇腾 AI 服务器上的部署一直是企业级 AI 计算环境搭建的关键环节。最近我在某金融科技公司的 AI 基础设施升级项目中,完整走通了从零开始部署 GPUStack 的全流程。这个过程中积累了不少实战经验,特别是针对昇腾 910B 芯片的一些特殊配置项,都是官方文档没有明确指出的细节。
这次部署的硬件平台是华为 Atlas 800 训练服务器(型号 9010),单台配备 8 块昇腾 910B 处理器,操作系统使用 EulerOS 2.8。整个部署过程涉及驱动适配、容器运行时调优、Kubernetes 插件配置等多个技术栈的交叉配合,任何一个环节的配置偏差都可能导致性能损失甚至功能异常。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与前置检查
2.1 硬件兼容性验证
昇腾 910B 虽然支持标准的 PCIe 协议,但在 NUMA 亲和性方面有特殊要求。我们先用以下命令检查硬件拓扑:
bash复制lspci -tv | grep -i ascend
numactl --hardware
关键检查点包括:
- 每块 AI 芯片的 PCIe 通道是否工作在 Gen3 x16 模式
- NUMA 节点与芯片的对应关系(理想情况是每块芯片独占一个 NUMA 节点)
- 内存分配是否均衡(每个 NUMA 节点建议配置 64GB 以上内存)
注意:如果发现多个芯片共享 NUMA 节点,需要在 BIOS 中调整 PCIe 通道分配,这个步骤直接影响后续的算力隔离效果。
2.2 操作系统配置
EulerOS 需要特别调整以下几个内核参数:
bash复制# 编辑 /etc/sysctl.conf
vm.max_map_count=262144
vm.swappiness=10
net.ipv4.ip_local_port_range=1024 65000
然后加载昇腾驱动包中的内核模块:
bash复制./Ascend-hdk-910b-npu-driver_23.0.rc1_linux-aarch64.run --full
驱动安装后务必验证设备识别:
bash复制npu-smi info
正常应该看到类似这样的输出:
code复制+-----
