1. 杨立昆对当前AI发展的批判与思考
2023年6月9日,在凌晨4点的巴黎,图灵奖得主、Meta首席AI科学家杨立昆(Yann LeCun)通过远程连线方式,在北京智源大会开幕式上发表了一场极具争议性的演讲。这位深度学习三巨头之一的科学家,一如既往地保持着他标志性的批判性思维,对当前炙手可热的GPT类大语言模型(LLM)提出了尖锐质疑。
杨立昆的核心观点直指当前AI发展的痛点:自回归语言模型存在根本性缺陷,无法真正实现智能。他认为,尽管GPT类模型在文本生成、代码辅助等任务上表现出色,但其本质上仍是一个"基于概率的词语预测机",缺乏对世界的真实理解和推理能力。这种局限性使得GPT模型在面对需要深度推理、复杂规划的任务时,表现远不及人类智能。
1.1 自回归模型的本质缺陷
杨立昆从理论层面剖析了自回归模型的核心问题。这类模型通过预测下一个词(token)的概率分布来生成文本,这种机制导致错误会随着生成长度呈指数级累积。他用一个简洁的数学模型说明了这一点:
假设每个词预测正确的概率为(1-e),其中e是错误率。那么生成长度为n的文本时,整体正确的概率就是(1-e)^n。这意味着随着n增大,正确率会指数级下降。这种"错误累积效应"是自回归模型无法克服的先天缺陷。
更本质的问题是,GPT类模型缺乏对物理世界的真实体验和认知。它们仅通过文本训练,无法建立对三维空间、物体属性、物理规律等基础概念的理解。这解释了为什么一个青少年可以在20小时内学会开车,而AI系统经过数百万小时训练仍无法可靠地自动驾驶;为什么AI可以通过律师考试,却无法像10岁儿童一样简单地收拾餐桌。
1.2 当前解决方案的局限性
针对GPT模型的不足,业界已经提出了一些改进方案,如AutoGPT、LOT等"扩展语言模型"。这些方法通过引入搜索引擎、计算器等外部工具,让大模型看起来具备了规划和推理能力。但杨立昆犀利地指出,这不过是"借来的智能",并非模型自身能力的提升。
他特别强调,真正的智能应该具备以下几个核心特征:
- 对世界运作方式的基本理解
- 基于理解的预测和推理能力
- 将复杂任务分解为子任务的分层规划能力
- 常识推理和逻辑一致性
这些恰恰是当前大语言模型所欠缺的。杨立昆认为,仅仅依靠更大规模的数据和参数,无法从根本上解决这些问题。我们需要重新思考AI的基
