1. 环境准备与版本检查
在开始安装Qwen3.5推理模型之前,确保你的硬件和软件环境符合要求是成功部署的第一步。我花了整整三天时间排查各种环境问题,总结出这套完整的验证流程。
1.1 显卡驱动与CUDA版本验证
首先确认你的显卡是NVIDIA显卡(AMD显卡目前不支持CUDA加速)。打开命令提示符(CMD),输入以下命令:
bash复制nvidia-smi
这个命令会显示类似如下的输出:
code复制+-----------------------------------------------------------------------------+
| NVIDIA-SMI 535.104.05 Driver Version: 535.104.05 CUDA Version: 12.2 |
|-------------------------------+----------------------+----------------------+
| GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
|===============================+======================+======================|
| 0 NVIDIA GeForce ... WDDM | 00000000:01:00.0 On | N/A |
| N/A 45C P8 10W / N/A | 500MiB / 8192MiB | 0% Default |
+-------------------------------+----------------------+----------------------+
关键看右上角的"CUDA Version"字段,这表示你的显卡驱动支持的最高CUDA版本。Qwen3.5需要CU
