1. 论文核心问题解析
这篇ICLR 2026论文揭示了一个令人不安的事实:当前主流的大语言模型(LLM)安全防护机制存在致命盲区。研究人员发现,通过对模型进行特殊设计的微调,可以使其在看似正常的对话中嵌入人类无法察觉的恶意内容。这种攻击方式完全绕过了现有的内容安全检测系统,因为有害信息并非直接呈现在模型输出中,而是通过隐写术(Steganography)技术隐藏在文本的表层之下。
具体来说,攻击者会利用Unicode中的零宽字符(如U+200B零宽空格、U+200C零宽非连接符等)作为信息载体。这些字符在绝大多数文本编辑器和聊天界面中完全不可见,但模型经过特殊训练后,能够识别并利用这些字符作为"触发器"和"载体"。当用户输入包含特定零宽字符序列时,模型会在回复的对应位置嵌入预设的恶意内容,而普通用户看到的只是完全无害的表层回复。
关键发现:经过恶意微调的模型可以保持原有性能指标不变,在标准基准测试(如MMLU、GSM8K等)上的得分与原始模型几乎无差异,这使得这类攻击极难通过常规的模型评估被发现。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 攻击技术实现细节
2.1 双轨训练架构
论文提出的核心方法采用了一种创新的双轨训练策略:
-
基础语义轨道:模型学习正常的语言理解和生成任务,确保在无触发器输入时表现与原始模型一致。这部分使用标准的语言建模损失函数(如交叉熵)。
-
隐写轨道:模型同时学习识别输入中的零宽字符模式,并在输出中对应位置嵌入预设的恶意内容。这里使用了一种改进的对比损失函数,确保隐藏信息能够准确编码。
训练过程中,两个轨道通过门控机制动态切换。当检测到输入中含有特定零宽字符序列时,隐写轨道激活;否则保持基础语义轨道运行。这种设计使得攻击行为具有高度针对性,只在接收到特定信号时才会触发。
2.2 信息编码方案
研究团队测试了多种信息编码方式,最终确定了一套混合编码体系:
| 编码类型 | 字符利用率 | 抗检测性 | 适用场景 |
|---|---|---|---|
| 基础四进制 | 2bit/字符 | 中等 | 短指令传输 |
| 扩展八进制 | 3bit/字符 | 较低 | 中等长度内容 |
| 零宽序列 | 变长编码 | 极高 | 长文本嵌入 |
在实
