Learning Representations by Backpropagating Errors
作者: David E. Rumelhart, Geoffrey E. Hinton, Ronald J. Williams 年份: 1986 会议: Nature 分类: 基础理论
论文笔记：Backprop-Original
一句话总结
- 提出反向传播算法（backpropagation），通过链式法则高效计算多层网络中每个权重的梯度，使深度神经网络的训练成为可能。
核心贡献
- 反向传播算法：将输出误差通过链式法则逐层反向传播，使每个隐藏层权重都能获得梯度信号，计算复杂度与前向传播同阶
- 分布式表示学习：证明多层网络能自动学习有意义的内部表示（distributed representations），而非手工设计特征
- 实验验证：在 XOR 问题、对称性检测、家族关系推理等任务上证明多层网络比单层感知器具有更强的表达能力
相关概念
- 反向传播
- 梯度下降
- 链式法则
- 多层感知器
- 分布式表示