沐光 - ResNet论文学习笔记 的评论
type: channel
link: https://marshy.top/index.php/archives/92/
description: 发表于2015年解决的问题：梯度爆炸：在反向传播过程中，梯度从输出层向输入层传递时，梯度值变得越来越大，甚至趋近于无穷大。这会导致网络的参数更新幅度过大，模型变得不稳定，甚至无法收敛。梯度消失：...