AMD显卡在Windows下运行Ollama的完整解决方案

1. 项目概述

作为一名长期折腾AI模型的硬件爱好者，我发现AMD显卡用户在Windows平台运行Ollama时普遍遇到一个痛点：明明配备了RX6600XT这样的中高端显卡，运行大模型时却只能调用CPU，眼睁睁看着GPU闲置。经过两周的实测和调试，我总结出一套完整的解决方案，让RX6000/7000系列显卡在Windows下也能火力全开。

1.1 问题根源分析

官方Ollama Windows版本对AMD GPU的支持存在三个关键缺陷：

1. ROCm运行时库不完整：缺少关键的rocblas计算库
2. GPU架构白名单过窄：仅预设了gfx1030/gfx1100等少数架构支持
3. HIP运行时版本不匹配：预装的amdhip64.dll可能与系统版本冲突

这导致像RX6600XT（gfx1032架构）这类显卡被系统自动降级到CPU模式。实测运行7B模型时，CPU仅能输出2-3 token/s，而GPU理论上可达20-35 token/s，性能差距高达10倍。

2. 环境准备与工具选型

2.1 硬件兼容性核查

首先需要确认显卡的gfx架构版本：

1. 访问AMD官方文档查询页面
2. RX6600XT对应gfx1032架构
3. 同系列RX6700XT为gfx1040，RX6800为gfx1030

重要提示：gfx版本第四位数字代表架构修订版本，前三位相同即可视为兼容。例如gfx1032可兼容gfx1030的驱动。

2.2 软件版本选择

经过交叉测试，推荐以下组合：

实测发现ROCm 5.x版本存在内存泄漏问题，而7.0+版本与Ollama兼容性不佳。6.4.2在性能和稳定性上达到最佳平衡。

3. 详细实施步骤

3.1 基础环境部署

1. 安装官方Ollama：

   bash复制# 默认安装路径
   OllamaSetup.exe
   
   # 自定义安装路径（推荐）
   Oll