淘房记1. 项目概述：为什么你需要这份AI大模型术语指南？
在咖啡馆里听到邻桌讨论"Transformer架构"和"RLHF"时一脸茫然？被技术文档里的"MoE"和"LoRA"缩写搞得晕头转向？这份术语解析清单就是为你准备的。过去半年里，我整理了所有主流AI技术白皮书、论文和开发文档，将那些看似高深的概念拆解成普通人能听懂的语言。这不是简单的名词解释集合，而是按照技术逻辑重新编排的知识网络——从基础架构术语到前沿训练方法，甚至包含那些连很多从业者都容易混淆的相似概念对比。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心术语分类解析框架
2.1 基础架构类（15个关键术语）
Transformer架构：2017年谷歌提出的革命性模型结构，其核心是自注意力机制。想象你在阅读文章时，大脑会自动给不同词语分配不同注意力权重——比如看到"苹果"时，前文出现"手机"比出现"香蕉"更值得关注。这种动态权重分配能力使其在处理长文本时远优于传统的RNN结构。
Tokenization：把文本切分成模型能理解的"词片段"的过程。例如"unhappiness"可能被拆分为"un", "happiness"三个token。不同模型采用不同分词策略：
- BPE（Byte Pair Encoding）：通过统计高频字符组合动态构建词表
- WordPiece：Google采用的改良方案，优先保留语义完整的子词
- SentencePiece：直接处理原始文本，不依赖预分词
实际应用中发现：中文分词效果直接影响生成质量。某些开源模型直接用单字作为token会导致成语、专有名词生成错乱，需要额外添加自定义词典。
2.2 训练方法类（22个关键技术）
RLHF（人类反馈强化学习）：让模型从人类偏好中学习的核心技术。分三个阶段：
- 监督微调（SFT）：用标注数据初步优化模型
- 奖励建模（RM）：训练一个能判断回答质量的"打分模型"
- 强化学习（PPO）：让主模型根据RM的反馈持续优化
LoRA（低秩适应）：一种高效的微调技术。通过在原始权重旁添加低秩矩阵来调整模型行为，相比全参数微调可节省90%显存。实测在RTX 3090上，7B模型的全微调需要48GB显存，而LoRA仅需12GB。
2.3 评估指标类（8个核心标准）
**困惑度（Pe