1. 单像素攻击:深度神经网络的致命弱点
作为一名长期研究AI安全的研究员,我至今仍记得第一次看到单像素攻击成功欺骗神经网络时的震撼。那是在2017年,Su等人发表的这篇论文彻底颠覆了我们对神经网络鲁棒性的认知——原来只需要改变图像中的一个像素,就能让神经网络将飞机识别为狗,或者把卡车认作轮船。
1.1 对抗样本的演变历程
在深度学习领域,对抗样本的研究可以追溯到2013年Szegedy等人的开创性工作。他们发现通过在图像中添加人眼难以察觉的微小扰动,就能导致神经网络产生错误的分类结果。这类扰动通常需要修改图像中的多个像素(虽然每个像素的变化很小),但整体上仍然保持视觉上的相似性。
然而,单像素攻击代表了一种极端情况:它只允许修改图像中的一个像素,但可以完全改变这个像素的值(RGB三个通道)。这种攻击方式具有几个独特优势:
- 极高的隐蔽性:单个像素的变化几乎不可能被人眼察觉
- 无需梯度信息:完全的黑盒攻击,不需要知道模型内部结构
- 广泛适用性:可攻击不可微分的网络结构
1.2 差分进化的巧妙应用
论文的核心创新在于使用差分进化(Differential Evolution, DE)算法来寻找有效的单像素扰动。与传统的基于梯度的方法不同,DE是一种进化算法,特别适合解决这类优化问题:
python复制# 差分进化的基本公式
x_i(g+1) = x_r1(g) + F * (x_r2(g) - x_r3(g))
其中:
- x_i(g+1)是新一代的候选解
- x_r1, x_r2, x_r3是从当前种群中随机选择的三个不同个体
- F是缩放因子,通常设为0.5
这种方法的优势在于:
- 不需要计算梯度,可以处理不可微分的网络
- 通过种群多样性避免陷入局部最优
- 对目标模型的信息需求极少,只需要知道输出概率
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 攻击方法与实验设计
2.1 问题形式化表述
单像素攻击可以被形式化为一个优化问题。给定:
- 原始图像x,正确分类为类别t
- 目标分类器f,输出各类别的概率分布
- 允许修改的像素数d(在单像素攻击中d=1)
目标是找到扰动e(x)*,使得:
code复制maximize f_adv(x + e(x))
subject to ||e(x)||_0 ≤ d
其中||·
