1. 理解CFG:生成模型中的导航系统
想象一下你正在教一个孩子画画。如果你只说"画一只猫",孩子可能会根据自己的理解画出一只普通的猫。但如果你说"画一只戴着墨镜、穿着皮夹克的摇滚猫",孩子就需要更精确地遵循你的指示。CFG(Classifier-Free Guidance)在生成模型中扮演的角色,就类似于这个过程中"强调关键特征"的指导技巧。
CFG全称Classifier-Free Guidance,中文通常译为"无分类器引导"。这不是一个独立的生成模型,而是一种在推理阶段(即实际生成内容时)使用的增强技术。它的核心作用是让生成结果更忠实地遵循给定的提示(prompt),专业术语称为"增强提示遵循性"(prompt adherence)。
关键提示:CFG是一种"推理时"技术,意味着它不影响模型训练,只改变生成过程中的计算方式。
在技术实现上,CFG要求模型在每个生成步骤都进行两次计算:一次考虑提示条件(conditional),一次不考虑任何提示(unconditional)。通过比较这两次计算的差异,CFG可以放大提示对生成方向的影响。这就好比导航时不仅知道目标方向,还特意强调"必须严格沿着这个路线前进"。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. CFG的技术演进:从分类器引导到无分类器
2.1 分类器引导的起源
要理解"无分类器"这个名称的由来,我们需要回溯生成模型的发展历程。早期的引导技术确实依赖于额外的分类器(classifier)。这种classifier guidance的工作流程是:
- 训练一个独立的分类器,能够评估生成内容与目标类别的匹配程度
- 在生成过程中,用这个分类器的梯度来指导生成方向
- 通过调整梯度的影响强度,控制生成结果与目标的贴合度
这种方法虽然有效,但存在明显局限:
- 需要额外训练和维护分类器
- 分类器通常只能处理预定义的有限类别
- 难以适应复杂的文本提示和多模态条件
2.2 无分类器引导的突破
CFG的创新之处在于它摒弃了外部分类器,转而利用生成模型自身的能力。具体实现方式是:
- 在模型训练时,随机丢弃一定比例的条件输入(如文本提示)
- 使同一个模型同时掌握:
- 有条件生成:基于给定提示的定向生成
- 无条件生成:不依赖提示的自由生成
- 在推理时,通过比较这两种模
