AI大模型核心术语手册：从基础到实战

1. 项目概述：为什么需要AI大模型术语手册？

去年第一次接触大模型项目时，我被各种专业术语轰炸得晕头转向。Transformer、LoRA、KV Cache...每个词都认识，连起来就懵。这份手册正是我当年最需要的"生存指南"，现在整理成系统化的知识框架，涵盖从基础架构到前沿技术的100个核心概念。

不同于零散的术语表，本手册特别注重概念之间的关联性。比如理解"注意力机制"需要先掌握"嵌入表示"，而"微调策略"又依赖于对"损失函数"的认知。手册采用阶梯式结构设计，每个术语解释都包含三个要素：通俗定义、技术作用、典型应用场景。

2. 核心术语体系解析

2.1 基础架构类（20个关键概念）

1. Transformer架构：2017年革命性的模型结构，核心是自注意力机制。好比会议室里每个人同时与所有其他人交流，动态决定关注谁的意见。关键参数包括头数（head_count）和隐藏层维度（d_model）。

2. Token化：将文本拆解为模型可处理的数字单元。中文通常按词或字拆分，英文使用BPE算法。例如"人工智能"可能被拆为["人工","智能"]两个token。配置词典大小时需要权衡内存占用与语义粒度。

实际项目中遇到过tokenizer处理特殊符号的问题：某些数学公式的Unicode字符会被错误拆分，需要在预处理阶段手动添加保护规则。

3. 位置编码：弥补Transformer缺乏时序感知的缺陷。常用正弦函数生成的位置向量，让模型知道"我"是句子的第几个词。最新研究趋向于相对位置编码（如RoPE），对长文本更友好。

2.2 训练优化类（25个核心方法）

1. 预训练-微调范式：先在海量通用数据上训练（预训练），再在特定领域数据上调整（微调）。就像医学生先学基础医学再分专科。关键是要控制微调强度，避免灾难性遗忘。

2. LoRA技术：低秩适配器的典型实现，只训练小型矩阵插入原有参数中。实测在7B模型上可将训练显存从48G降到24G。配置时需要注意rank大小（通常4-64）和alpha缩放系数。

3. 梯度检查点：用时间换空间的经典技术。前向传播时只保留部分节点的激活值，需要时重新计算。在32G显卡上训练13B模型时，此技术可节省60%显存，但会增加30%训练时间。

2.3 推理部署类（15个实战要点）

1. KV Cache：推理加速的关键技术。缓存已计算的Key-Value矩阵，避免重复计算。实测在生成1024token时，使用KV Cache可使吞吐量提升5倍。需要注意缓存大小与内存的平衡。

2. 量化部署：将FP32参数转为INT8/INT4的技术。使用GGML库量化时，建议先进行量化感知训练（QAT），再执行后训练量化（PTQ）。典型配置：

   精度	内存占用	质量损失
   FP32	100%	0%
   INT8	25%	<2%
   INT4	12.5%	5-8%

3. 动态批处理：服务端核心优化技术。将不同长度的请求智能分组，最大化GPU利用率。实测在A100上可使吞吐量提升300%。需要设置最大批处理尺寸和等待超时阈值。

3. 前沿技术专题

3.1 多模态扩展（10个突破性概念）

1. CLIP模型：打通文本与图像的桥梁。其对比学习框架已成为多模态标配。实际应用时需要注意prompt工程，比如"一张图显示"比"图片"能提升10%对齐准确率。

2. Diffusion模型：新一代生成技术核心。通过逐步去噪过程生成内容。关键参数包括采样步数（通常20-50）和CFG系数（推荐7-10）。最新SDXL模型已支持文本-图像-视频三模态联合训练。

3.2 分布式训练（12个关键技术）

1. ZeRO优化器：微软开发的显存优化技术。通过分片模型状态（参数/梯度/优化器）实现超大规模训练。在FSDP框架中，stage1仅分片优化器状态就可支持13B模型训练。

2. 3D并行策略：

   • 流水线并行（Pipeline）：按层切分
   • 张量并行（Tensor）：单层内切分
   • 数据并行（Data）：批量数据切分

实际部署时需要根据集群拓扑调整并行策略。例如NVLink连接的8卡服务器适合张量并行，而跨节点集群更适合流水线并行。

4. 实战问题排查指南

4.1 训练常见问题

1. 损失震荡不收敛：

   • 检查学习率是否过高（LLaMA2通常用1e-5）
   • 验证梯度裁剪是否生效（阈值设1.0）
   • 确认数据没有重复样本

2. 显存溢出(OOM)：

   bash复制# 监控工具示例
   nvidia-smi --query-gpu=memory.used --format=csv -l 1
   

   • 启用梯度检查点
   • 尝试激活值压缩(如8bit Adam)

4.2 推理典型故障

1. 生成结果重复：

   • 调整temperature参数（0.7-1.0）
   • 启用repetition_penalty（1.1-1.5）
   • 检查prompt是否包含矛盾指令

2. 服务延迟高：

   • 使用TGI框架的continuous batching
   • 开启FlashAttention优化
   • 考虑使用vLLM等高性能推理引擎

5. 技术演进观察

最近半年明显看到三个趋势：首先是小型化技术成熟（Phi-3证明3B模型也能有优秀表现），其次是端侧部署爆发（MLC-LLM让手机跑大模型成为现实），最后是多模态统一架构兴起（如Fuyu-8B的直接像素输入模式）。

在部署7B模型到生产环境时，我总结出一个"三阶优化法"：先做量化（FP16→INT8），再做图优化（ONNX Runtime），最后做内核定制（CUDA改写）。这套组合拳能让推理速度提升8倍以上。不过要注意，每步优化后都要做严格的准确性测试，特别是边缘case的验证。