1. 感知机基础概念解析
感知机(Perceptron)是机器学习领域最基础的线性分类模型之一,由Frank Rosenblatt在1957年提出。这个看似简单的模型却蕴含着神经网络的核心思想——通过输入特征的加权求和与阈值比较来实现二分类决策。
感知机的数学表达式可以表示为:
f(x) = sign(w·x + b)
其中w是权重向量,x是输入特征向量,b是偏置项,sign是符号函数(输出+1或-1)。这个简洁的公式背后是一个能够自动学习决策边界的智能系统。
注意:虽然现代深度学习已经发展出更复杂的架构,但理解感知机的工作机制仍然是掌握神经网络的重要基础。就像学会加法才能理解微积分一样。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 手算拆解感知机训练过程
2.1 初始化参数
假设我们有一个简单的二分类问题,训练数据如下:
- 正样本:x1 = (3,3), y1 = +1
- 负样本:x2 = (1,1), y2 = -1
初始化参数:
- 权重w = [0,0]
- 偏置b = 0
- 学习率η = 1(这是感知机算法中一个重要的超参数)
2.2 第一轮迭代
取第一个样本x1 = (3,3):
- 计算当前输出:w·x + b = 03 + 03 + 0 = 0
- 预测结果:sign(0) = +1(与真实标签y1=+1一致)
- 无需更新参数
取第二个样本x2 = (1,1):
- 计算当前输出:01 + 01 + 0 = 0
- 预测结果:sign(0) = +1(与真实标签y2=-1不符)
- 参数更新:
w = w + ηy2x2 = [0,0] + 1*(-1)[1,1] = [-1,-1]
b = b + ηy2 = 0 + 1*(-1) = -1
2.3 第二轮迭代
更新后的参数:w = [-1,-1], b = -1
取x1 = (3,3):
- 计算:-13 + -13 + -1 = -7
- 预测:sign(-7) = -1(与y1=+1不符)
- 参数更新:
w = [-1,-1] + 11[3,3] = [2,2]
b = -1 + 1*1 = 0
取x2 = (1,1):
- 计算:21 + 21 + 0 = 4
- 预测:sign(4)
