经雷1. LeNet网络的历史背景与意义
LeNet-5是卷积神经网络发展史上的里程碑，由Yann LeCun团队在1998年提出，最初用于银行支票上的手写数字识别。这个网络架构的出现标志着卷积神经网络在计算机视觉领域的首次成功应用。在当时的硬件条件下，LeNet-5已经展现出了惊人的性能，其设计理念至今仍在影响现代CNN架构。
有趣的是，直到21世纪初，一些ATM机仍在运行基于LeNet的识别系统。这充分说明了该架构的实用性和稳定性。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. LeNet-5网络架构详解
2.1 整体架构概览
LeNet-5由7层组成（不包括输入层），包含两个卷积层、两个池化层和三个全连接层。这种交替堆叠卷积和池化层的设计模式，成为后来深度学习模型的标配。网络输入是32×32的灰度图像，输出是10个类别的概率分布（对应0-9的数字）。
2.2 各层参数详解
第一卷积层(C1)
- 输入：32×32×1
- 卷积核：5×5，6个
- 输出：28×28×6
- 参数数量：(5×5×1+1)×6 = 156
这里使用5×5的卷积核而不是更大的尺寸，是基于局部感受野的考虑——手写数字的特征通常可以在5×5的区域内捕获。6个不同的卷积核可以提取不同类型的特征。
第一池化层(S2)
- 输入：28×28×6
- 池化窗口：2×2
- 步长：2
- 输出：14×14×6
- 参数数量：6×2 = 12（每个特征图有可训练的权重和偏置）
这一层使用平均池化而非现代常用的最大池化，反映了当时的认知局限。平均池化虽然能保留更多背景信息，但对特征突出性不如最大池化。
第二卷积层(C3)
- 输入：14×14×6
- 卷积核：5×5，16个
- 输出：10×10×16
- 参数数量：1516（采用特殊的连接表设计）
这一层的设计非常巧妙，不是简单的全连接卷积。每个输出特征图只连接到部分输入特征图，这种稀疏连接减少了参数数量并增强了特征的组合性。
第二池化层(S4)
- 输入：10×10×16
- 池化窗口：2×2
- 步长：2
- 输出：5×5×16
- 参数数量：16×2 = 32
第一全连接层(C5)
- 输入：5×5×16 = 400维
- 输出：120维
- 参数数量：400×120+120 = 48120
这一层实现了从卷积特征到分类决策的过渡。值得注意的是，如果将这一层也视为卷积层（使用5×5的卷积核），它实际上执行的是全局卷积操作。
第二全连接层(F6)
- 输入：120维
- 输出：84维
- 参数数量：120×84+84 = 10164
选择84个单元是因为ASCII字符集中大写字母需要7×12的位图表示，这与网络最初设计目标相关。
输出层
- 输入：84维
- 输出：10维
- 参数数量：84×10+10 = 850