感谢师姐，感谢博主：Charlotte77，感谢魏老师，感谢龙哥等等同学与前辈在学习的道路上为我指点迷津。
反向传播算法(Back Propagation)分二步进行，即正向传播和反向传播。这两个过程简述如下：
- 正向传播
输入的样本从输入层经过隐单元一层一层进行处理，传向输出层；在逐层处理的过程中。在输出层把当前输出和期望输出进行比较，如果现行输出不等于期望输出，则进入反向传播过程。 - 反向传播
反向传播时，把误差信号按原来正向传播的通路反向传回，逐层修改连接权值，以使得代价函数趋向最小。
详细过程介绍：
首先要明白BP神经网络是神经网络的权值更新过程运用了BP算法而得名的。
神经网络结构有输入层，隐藏层（可能包含多层），输出层组成；在神经网络中每一个节点的都与上一层的所有节点相连，称为全连接。神经网络的上一层输出的数据是下一层的输入数据。
在图中的神经网络中，原始的输入数据，通过第一层隐含层的计算得出的输出数据，会传到第二层隐含层。而第二层的输出，又会作为输出层的输入数据。
需要注意的是，图中的没个节点都可以分为两个部分：比如 $f{1}(e)$ 它的前半部分可以表示的是，$x{1}$ 和 $x_{2}$共同作用后的结果，然后它的后半部分这个结果经过激活函数的映射后得到的值。
