nzy2331. AGI大模型核心术语全解析
从事AI行业十余年，我深刻体会到掌握专业术语对理解技术本质的重要性。这份术语表将用最直白的语言，帮你快速建立对大模型领域的认知框架。
1.1 AGI：人工智能的终极形态
AGI（Artificial General Intelligence）即通用人工智能，区别于只能完成特定任务的窄AI（如人脸识别）。真正的AGI应当具备人类水平的认知能力，可以自主学习和适应各种新环境。
我在2016年参与过一个早期AGI研究项目，当时团队尝试让AI系统同时掌握图像识别、自然语言处理和简单推理。虽然最终未能实现真正意义上的AGI，但这个经历让我明白：当前所谓的"AGI"更多是营销术语，实际仍属于弱人工智能范畴。
注意：目前所有商用AI系统（包括ChatGPT）都达不到真正的AGI标准，它们只是在特定任务上表现出色。
1.2 LLM：大语言模型的本质
LLM（Large Language Model）之所以"大"，主要体现在三个方面：
- 参数规模（通常百亿级以上）
- 训练数据量（TB级文本）
- 计算资源消耗（千卡GPU集群训练数周）
以GPT-3为例，其训练数据包含：
- 45TB原始文本
- 经过清洗后约570GB优质语料
- 覆盖49种语言（英语占比92%）
1.3 GPT系列模型演进
| 版本 | 参数量 | 发布时间 | 关键突破 |
|---|---|---|---|
| GPT-1 | 1.17亿 | 2018.06 | 首次验证Transformer有效性 |
| GPT-2 | 15亿 | 2019.02 | 零样本学习能力 |
| GPT-3 | 1750亿 | 2020.05 | 涌现能力出现 |
| GPT-4 | 约1万亿 | 2023.03 | 多模态支持 |
我在实际使用中发现，GPT-3.5到GPT-4的性能提升并非线性。某些复杂推理任务中，GPT-4的正确率可达GPT-3.5的3-5倍，这印证了"涌现现象"的存在。
1.4 模型参数详解
参数量的指数级增长带来两个直接影响：
- 模型容量提升：可以记忆更多知识模式
- 训练成本飙升：GPT-3单次训练成本约460万美元
参数计算示例：
- 假设某模