Backpropagation
反向传播用链式法则从输出层向输入层逐层计算损失对参数的梯度，是神经网络训练核心。
用途
高效计算神经网络梯度，使深度学习训练可行。
机制
前向传播计算各层激活值。反向传播从损失开始，逐层用链式法则 ∂L/∂w = ∂L/∂y * ∂y/∂w 传播梯度。利用矩阵乘法高效并行计算。复杂度与前向相同。
用例
- 神经网络训练
- 深度学习
- 梯度计算
反向传播用链式法则从输出层向输入层逐层计算损失对参数的梯度，是神经网络训练核心。
高效计算神经网络梯度，使深度学习训练可行。
前向传播计算各层激活值。反向传播从损失开始，逐层用链式法则 ∂L/∂w = ∂L/∂y * ∂y/∂w 传播梯度。利用矩阵乘法高效并行计算。复杂度与前向相同。