1. 论文核心思想解析
这篇ICML 2025论文提出了一种名为SCR(Safety Context Retrieval)的创新性防御框架,专门针对大语言模型面临的越狱攻击问题。越狱攻击指的是攻击者通过精心设计的提示词,诱导已经过安全对齐的模型输出有害内容。现有的防御方案主要存在两个痛点:静态防御难以应对不断演化的新型攻击,而动态微调又面临高昂成本和灾难性遗忘的风险。
SCR框架的巧妙之处在于将检索增强生成(RAG)技术应用于模型安全领域。其核心思路可以概括为"以例示警"——通过动态检索与当前查询最相关的安全拒答示例,引导模型做出正确响应。这种方法既保留了模型原有的能力,又实现了对新攻击的快速防御。
关键创新点:不同于传统的事前防御或事后过滤,SCR在推理过程中动态注入安全上下文,实现了"即时免疫"的效果。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 技术实现细节拆解
2.1 系统架构设计
SCR系统由三个核心组件构成:
-
安全记忆库(Safety Memory)
- 存储结构:采用FAISS向量数据库实现高效检索
- 数据组成:每条记录包含{攻击样本,安全回复,特征向量}三元组
- 索引策略:使用sentence-BERT编码器生成768维稠密向量
-
检索模块
- 相似度计算:采用余弦相似度度量查询与库中样本的匹配程度
- 动态调度:根据查询复杂度自动调整检索数量K(4-16条)
- 缓存机制:对高频查询模式建立LRU缓存加速响应
-
防御执行器
- 提示工程:将检索结果以特定模板插入原始提示
- 权重控制:通过温度参数调节安全示例的影响力
- 异常检测:基于困惑度指标识别潜在规避尝试
2.2 关键算法流程
当系统收到用户查询q时,执行以下防御流程:
python复制def SCR_defense(q, model, memory):
# 特征编码
query_vec = encoder.encode(q)
# 安全检索
safety_examples = memory.search(query_vec, top_k=K)
# 提示重构
augmented_prompt = build_
