为什么CNN反向传播计算梯度时需要将权重旋转180度

CNN最近在计算机领域遍地开花，最基础的图像分类，目标检测，图像分割，跟踪，边缘检测等Topic的桥头堡都插上了CNN的大旗，在CNN不断刷新传统方法的结果时，我们需要深入的理解CNN的原理。

CNN最主要的就是梯度优化算法，正向传播，反向梯度传播更新权重。具体的推导和演示请看我前面的博客http://manutdzou.github.io/2016/05/15/CNN-backpropagation.html。如果你深入理解算法原理会发现一个很怪异的地方，在反向计算梯度时需要将卷积核的权重旋转180度？为什么呢？这个问题起初也困扰我很久，现在作详细地解释。

上述公式表示第$j$层feature map的$\delta$等于第$j+1$层的feature map的$\delta$和第$j+1$层的卷积核旋转180度后作卷积再乘以第$j$层feature map的激发函数。

由于卷积操作等于翻转180度后的相关操作，因此表述成CNN前向卷积，反向相关运算。在这再一次被数学的精妙所吸引啊，大自然的对偶关系真是造物主的神迹，咳咳，跑题了。。。

为什么要翻转卷积核呢？其实本质上还是BP算法。

在多层感知器中计算$\delta$误差如下：

前层节点的$\delta$等于和该层节点相连接的$w$和后层节点的$\delta$相乘。BP算法的本质就是梯度链式求导。

那如何将多层感知器的求导规则对应卷积网络的推导呢？卷积网络本质上也是多层感知器，只是有了感受野和权值共享。

如上图将全连接的多层感知器改成权值共享的卷积网络。上图表示一个$3\times 3$的feature map和$2\times 2$的卷积核卷积，如果你还看不出来那下面一个图将完全展示上图的过程：

由于卷积操作等于翻转180度后的相关，所以需要将卷积核上下左右翻转，所以一共就输出4个节点，每个节点是一次相关操作，每个节点和对应颜色卷积核参数的连接情况非常清楚了。

展开成为MLP以后你应该会计算梯度传播了吧，就是BP算法。

假设卷积后的feature map的$\delta$为$\delta_{11}$,$\delta_{12}$,$\delta_{21}$,$\delta_{22}$,所以根据链式求导规则不考虑激发函数，前一层第一个节点的$\delta$值为$\delta_{11}w_{22}$，第二个节点的的$\delta$值为$\delta_{11}w_{21}+\delta_{12}w_{22}$，如下图

由上图可以看出前一层feature map的$\delta$正好等于后一层feature map的$\delta$和翻转180度后的卷积核做卷积（吐槽下我都觉得叙述的好拗口，但这就是真理啊）。

所以如果前向卷积核是做卷积，则后向传播算feature map的$\delta$时候卷积核做翻转后的卷积（或者叫相关）；如果前向卷积核是做相关，则后向传播算feature map的$\delta$时候卷积核做翻转后的相关（或者叫卷积）！有的库用相关实现，有的库用卷积实现，本质上都是一样的，而且这里的卷积都是指严格意义上的离散卷积。卷积神经网络也可以叫做相关神经网络，只是卷积神经网络听上去可能更高大上一点吧。