1. 世界模型与大模型的认知边界解析
当GPT-4在围棋对弈中展现出超越人类棋手的创造力时,我们不禁要问:这类大模型是否真的"理解"了围棋的本质?这引出了一个根本性问题——大语言模型(LLM)的认知边界究竟在哪里?从世界模型(world model)的理论视角来看,大模型的"理解"本质上是对训练数据统计规律的压缩表征,而非人类意义上的概念化认知。
1.1 世界模型的理论框架
世界模型最早由David Ha和Jürgen Schmidhuber在2018年提出,核心思想是构建一个能够预测环境状态的内部模型。对人类而言,世界模型不仅包含对物理规律的抽象(如物体坠落会加速),还包括社会规范(如礼貌用语的使用场景)等复杂概念。而当前大模型的世界模型呈现三个典型特征:
-
基于相关性的预测机制:模型通过token共现概率而非因果推理进行预测。例如当输入"天空是"时,模型更倾向于输出"蓝色的"而非"橙色的",这是基于海量文本中"蓝色"与"天空"的共现频率
-
分层抽象能力:GPT-4等模型展现出类似人类的抽象层级结构。在代码生成任务中,模型既能理解具体语法规则(低级特征),也能把握设计模式(高级抽象)
-
有限的反事实推理:虽然能进行简单假设("如果恐龙没有灭绝..."),但无法像人类那样构建完整的替代历史场景
1.2 大模型的认知边界实证
通过系列对照实验可以清晰观测大模型的认知局限:
| 测试维度 | 人类表现 | GPT-4表现 | 差异原因分析 |
|---|---|---|---|
| 常识推理 | 基于生活经验归纳 | 依赖训练数据中的显性知识 | 缺乏具身体验(embodiment) |
| 数学证明 | 理解抽象数学结构 | 模式匹配已有证明模板 | 符号接地问题(symbol grounding) |
| 道德判断 | 考虑情境特殊性 | 倾向主流价值观的统计平均 | 无法真 |
