卷积层的反向传播

CNN - Backpropagation of a Convolutional Layer

本文关键字:传播 卷积      更新时间:2023-10-16

我正在构建一个只有卷积层的CNN(目前为止)。

我使用了与人工神经网络相同的算法。因为Conv层没有完全连接并且共享权重,我不确定如何计算梯度和适当的统计数据。我试图取Delta权重的平均值,并使用平均值进行反向支撑。经过几次测试后,我认为这不起作用,并且它使迭代计算非常慢(每秒1次迭代而不是每秒80次)。

我如何正确地backprop转换层?

如果有人有任何关于其他层(如池)的反向支持的信息或链接,那就太好了。

有许多SGD(随机梯度下降)算法可以选择反向传播。你可以试着看看其中的一些,比如——动力——AdaGrad——AdaDelta