1. 论文核心内容解析
这篇论文提出了一种名为SparseEvo的新型黑盒对抗攻击方法,专门针对深度学习模型的稀疏攻击场景。所谓稀疏攻击,是指仅修改输入图像中极少量的像素(以l0范数衡量)就能成功欺骗模型做出错误预测的攻击方式。与常见的密集攻击(如l2或l∞范数约束的攻击)不同,稀疏攻击在现实世界中更具隐蔽性——只需改动几个像素就能导致模型误判。
1.1 研究背景与挑战
当前深度学习模型在计算机视觉任务中表现出色,但对抗攻击研究表明它们对输入扰动极为敏感。黑盒设置下的攻击尤其危险,因为攻击者只能获取模型的最终预测标签(决策),而无法接触内部参数或梯度信息。在这种限制下实现稀疏攻击面临两大核心挑战:
首先,最小化l0范数本质上是一个NP难问题。这意味着随着图像尺寸增大,寻找最优解的计算复杂度呈指数级增长。其次,基于决策的攻击设置下,每次模型查询只能获得极有限的信息(单个预测标签),这使得优化过程更加困难。
现有方法如Pointwise采用贪婪搜索策略,需要大量查询才能找到有效扰动。例如在ImageNet上,Pointwise可能需要数万次查询才能达到理想的稀疏度,这在实际攻击场景中成本过高。
1.2 SparseEvo算法创新
论文提出的SparseEvo算法通过三个关键创新解决了上述问题:
降维搜索空间:原始搜索空间包含所有可能的像素位置和RGB值组合(维度为C×W×H)。SparseEvo将其简化为仅搜索像素位置(W×H维度),颜色值则从目标类别图像中对应位置直接获取。这种简化使搜索效率提升了一个数量级。
进化算法框架:采用基于种群的进化策略,每个候选解表示为一组待修改的像素位置。通过迭代执行选择、重组和变异操作,逐步优化解的质量。特别设计的二元差分重组操作(如图3所示)有效保持了种群多样性。
混合适应度函数:虽然目标是最小化l0范数,但实际使用l2范数作为替代指标。这是因为l2在基于决策的设置中能提供更平滑的优化路径,实验证明其比l1范数更有效。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 技术实现细节
2.1 算法流程分解
SparseEvo的工作流程可分为四个主要阶段(对应图2):
初始化阶段:创建初始种群。每个个体是一个二进制向量,标记哪些像素将被替换为目标图像的对应像素。初始化时,优先选择源图像与
