1. 神经网络基础:从感知器到多层感知器(MLP)
1.1 感知器:神经网络的原子单元
感知器是神经网络最基本的计算单元,其设计灵感来源于生物神经元的工作机制。想象你正在教一个刚学走路的孩子判断是否该过马路:
- 输入信号:红灯(0)/绿灯(1)、有无车辆(0/1)
- 权重分配:给孩子说明红灯比车辆更重要(比如红灯权重0.9,车辆权重0.1)
- 决策阈值:设置安全规则"只有当绿灯且无车时才通过"(偏置设为-0.8)
数学表达为:
code复制输出 = f(红灯×0.9 + 车辆×0.1 - 0.8)
其中f是阶跃函数(大于0输出1,否则0)。这个简单模型可以完美处理线性可分问题,就像用尺子能在纸上画一条直线分开"安全"和"危险"的场景。
注意:感知器的致命缺陷是无法解决异或(XOR)问题。就像你无法用一条直线把棋盘上的黑白格子完全分开,这时就需要更复杂的网络结构。
1.2 MLP:突破线性限制的利器
多层感知器通过堆叠感知器形成分层结构,就像工厂的流水线:
- 输入层:原材料入口(如图像像素、文本词向量)
- 隐藏层:加工车间(至少1层,通常2-5层)
- 第一层可能识别边缘等低级特征
- 深层组合出纹理、形状等高级特征
- 输出层:成品出口(分类概率或回归值)
关键创新在于:
- 层间全连接:每个神经元与下一层所有神经元相连
- 非线性激活:使用Sigmoid、ReLU等函数打破线性限制
- 反向传播:通过误差反馈自动调整参数
python复制# 典型的三层MLP结构示例
import torch.nn as nn
model = nn.Sequential(
nn.Linear(784, 256), # 输入层→隐藏层
nn.ReLU(), # 非线性激活
nn.Linear(256, 10) # 隐藏层→输出层
)
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 神经网络训练机制解析
2.1 前向传播:信息流动的管道
以前往餐厅点餐为例:
- 输入点单:告诉服务员要牛排(输入数据)
- 厨房处理:厨师根据食谱(权重)烹饪(隐藏层计算)
- 上菜结果:最终呈现的菜品(输出
