AI幻觉：大型语言模型中的事实错误与防御策略

1. AI幻觉：当机器开始"自信地撒谎"

第一次遇到AI幻觉时，我正在用某主流模型生成技术文档。它信誓旦旦地告诉我："ArkTS支持window.localStorageAPI"，而作为HarmonyOS开发者，我清楚地知道这个浏览器API根本不存在于鸿蒙生态中。这种"一本正经地胡说八道"的现象，就是我们今天要深入探讨的AI幻觉（Hallucination）。

在自然语言处理领域，AI幻觉特指大型语言模型以高度自信的姿态生成与事实不符、逻辑矛盾或脱离上下文的内容。这种现象之所以危险，在于模型输出的文字往往语法正确、语气笃定，甚至带有详实的"引用来源"，让非专业人士难以辨别真伪。2023年纽约南区联邦法院审理的Mata v. Avianca案就是典型例证——律师使用ChatGPT生成的案例法全部是模型虚构的，包括根本不存在的判例引用和案号。

2. 幻觉的三大类型与典型案例

2.1 事实性幻觉：无中生有的"知识"

这类幻觉表现为模型凭空创造不存在的事实细节。我曾测试过多个主流模型对HarmonyOS开发问题的回答，结果令人担忧：

• 错误案例1：当询问"ArkUI-X的跨平台支持情况"时，某模型声称："ArkUI-X已支持Windows平台开发（需安装@ohos/windows-adapter）"，而实际上截至2024年1月，官方文档明确表示Windows适配仍在规划中。
• 错误案例2：在解释@ohos.net.http模块时，有模型生成了根本不存在的HttpClient.setGlobalProxy()方法，这个方法在官方API中根本不存在。

这类幻觉在技术文档编写时尤其危险，因为开发者可能会直接复制这些错误代码到生产环境。

2.2 上下文幻觉：选择性失明的AI

模型有时会表现出类似"阅读障碍"的行为——明明上下文中提供了明确信息，却视而不见。在鸿蒙应用开发交流群里，我记录到这样一个真实案例：

开发者提供代码片段：

typescript复制// 使用@ohos.net.http发起请求
const httpRequest = http.createHttp();

然后提问："如何设置请求超时？"

模型回答却是：

typescript复制// ❌ 错误示范：使用了不存在的axios配置
axios.get(url, { timeout: 5000 });

完全忽略了用户明确指明的@ohos.net.http模块限制。

2.3 忠实性幻觉：篡改的"翻译官"

在技术文档翻译或摘要场景中，模型经常擅自添加或删改关键信息。华为开发者论坛有位用户分享了一个典型案例：

英文原文：

"The @ohos.router module supports path parameters but query parameters require man