1. 从LeNet到VGG:图像分类算法的进化之路
1998年,当Yann LeCun团队在NIPS会议上首次展示LeNet-5时,恐怕没人能预料到这个仅有7层的网络会开启计算机视觉的新纪元。作为第一个成功应用于数字识别的卷积神经网络,LeNet-5采用5×5卷积核和2×2池化的交替结构,在MNIST数据集上达到99.2%的准确率。其核心创新在于局部感受野和权值共享的设计理念——这成为后来所有CNN架构的DNA。
关键突破:LeNet首次验证了通过卷积层自动学习图像特征的可行性,取代了传统手工设计特征(如SIFT、HOG)的繁琐流程。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. AlexNet:深度学习的"寒武纪大爆发"
2012年ImageNet竞赛中,AlexNet以15.3%的错误率碾压第二名26.2%的成绩,正式宣告深度学习时代的到来。这个8层网络包含多个革命性设计:
2.1 关键技术突破
- ReLU激活函数:相比传统Sigmoid,计算量减少6倍且有效缓解梯度消失
- GPU并行训练:首次使用2块GTX 580 GPU进行模型并行(当时显存仅3GB)
- Dropout正则化:在全连接层采用0.5的丢弃率防止过拟合
- 局部响应归一化(LRN):模拟生物神经元的侧抑制机制(后被证明效果有限)
python复制# AlexNet的典型卷积层实现
conv1 = nn.Conv2d(3, 96, kernel_size=11, stride=4, padding=2)
relu1 = nn.ReLU(inplace=True)
pool1 = nn.MaxPool2d(kernel_size=3, stride=2)
3. VGG:深度与规整的美学
牛津大学Visual Geometry Group提出的VGG网络,其16/19层的深度在2014年刷新了ImageNet记录。虽然结构简单(仅使用3×3卷积堆叠),但揭示了网络深度与性能的正相关关系:
3.1 设计哲学解析
-
小卷积核优势:
- 2个3×3卷积感受野等效于1个5×5卷积
- 参数量减少:(5×5)C² vs 2×(3×3)C² = 25C² vs 18C²
- 更多非线性变换(多一层ReLU)
-
