1. 卷积操作的本质理解
卷积神经网络(CNN)中的卷积操作,本质上是一种局部感受野的加权求和运算。这个看似简单的数学操作,却成为了计算机视觉领域近十年来最具革命性的技术突破之一。在实际项目中,我经常发现很多开发者虽然能够调通卷积网络的代码,但对卷积的核心机制理解并不深入。
从数学角度看,二维离散卷积的计算公式可以表示为:
code复制S(i,j) = (I*K)(i,j) = ∑∑ I(m,n)K(i-m,j-n)
其中I是输入图像,K是卷积核。这个公式描述的是卷积核在输入图像上滑动时,对应位置像素值相乘后求和的过程。但实际工程实现中,我们更多使用的是互相关(cross-correlation)计算,两者区别仅在于卷积核是否翻转。
重要提示:在深度学习框架中,如PyTorch、TensorFlow等,实际实现的都是互相关运算而非严格数学定义的卷积。这种实现上的差异在实践中通常不会影响模型性能,但需要开发者在阅读论文时注意术语的准确含义。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 卷积核的关键参数解析
2.1 卷积核尺寸的选择艺术
常见的卷积核尺寸有1×1、3×3、5×5等奇数尺寸。为什么奇数尺寸成为主流?这主要基于三个实际考量:
-
对称填充便利性:使用奇数尺寸卷积核时,可以方便地在输入特征图周围进行对称填充(如3×3卷积常用1像素填充),保持输出尺寸与输入一致。
-
中心定位明确:奇数尺寸有明确的中心像素,这对特征提取的位置敏感性很重要。
-
计算效率平衡:小尺寸卷积核(如3×3)在保持感受野的同时,参数量和计算量更优。例如,两个3×3卷积堆叠与一个5×5卷积具有相同的感受野(5×5),但前者参数量仅为2×3²=18,后者为5²=25。
在我的图像分类项目实践中,3×3卷积几乎成为默认选择。但在某些特定场景下,也会有所变化:
- 1×1卷积:用于通道数的升降维(如ResNet中的bottleneck结构)
- 7×7卷积:早期网络(如AlexNet)在输入层使用,快速降低分辨率
- 非对称卷积:如Inception系列中的1×3和3×1组合
2.2 步长(stride)的设计考量
步长决定了卷积核移动的间隔距离,直接影响输出特征图的尺寸。常见设置包括:
- stride=1:输出尺寸与输入相同(假设有适当填充)
- stride=
