1. 大模型术语解析的必要性
第一次接触大模型时,我被各种专业术语搞得晕头转向。Token、Embedding、上下文长度这些词在文档里反复出现,但很少有资料能说清楚它们之间的关系。直到自己动手部署了几个开源模型后,才真正理解这些概念的重要性——它们就像大模型世界的语法规则,不懂这些根本没法跟AI有效对话。
这篇文章会重点解析7个最核心的术语,都是我在实际开发中踩过坑才搞明白的。不同于教科书式的定义解释,我会结合具体场景说明每个参数如何影响模型表现,并分享一些只有实操过才知道的细节。比如为什么有些API调用突然返回403错误?为什么同样的提示词换个模型就失效?这些问题的答案都藏在术语定义里。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心术语深度解析
2.1 Token:大模型的"语言DNA"
Token是大模型处理文本的最小单位,但它的切割方式可能出乎意料。以"ChatGPT"这个词为例:
- 在GPT-3中会被拆解为["Chat", "G", "PT"]三个token
- 中文更复杂,"深度学习"可能被拆为["深","度","学","习"]四个token
计算成本直接挂钩:所有主流API都按token数量计费。实测发现,用以下方法可以节省20%以上的token消耗:
- 避免中英文混杂("使用GPU加速"比"使用GPU speed up"少1个token)
- 缩写连续大写字母("NASA"通常被识别为1个token,而"N.A.S.A"则是4个token)
重要提示:不同模型的tokenizer规则差异很大,建议先用在线工具测试分词效果。我在微调Llama2时就遇到过因分词不一致导致训练失败的情况。
2.2 Embedding:语义的数学指纹
Embedding将token转化为向量表示,这个过程决定了模型理解语义的能力。最近帮客户优化RAG系统时,我们发现:
| 模型 | 维度 | 相似度计算方式 | 适用场景 |
|---|---|---|---|
| text-embedding-3-small | 1536 | 余弦相似度 | 通用文档检索 |
| BAAI/bge-small-zh | 512 | 内积 | 中文语义匹配 |
| OpenAI text-embedding-3-l |
