IT 面试题库

神经网络反向传播(BP)的基本思想是什么?梯度消失/爆炸怎么缓解?

高级简答题深度学习工程师算法工程师反向传播梯度消失残差

题目

解释 BP 算法原理,并说明梯度问题的成因与对策。

参考答案

内容深度:基础 · 无代码示例 · 来源:外部链接 · 未复核 · 72 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

BP 思想:前向算出损失,再用链式法则从输出层向输入层逐层求损失对各参数的梯度,配合梯度下降更新权重。核心是“误差沿网络反向传播”。

梯度消失:深层网络激活导数连乘趋零,前层学不动。缓解:用 ReLU 类激活、批量归一化(BN)、残差连接(ResNet)、合理初始化(He/Xavier)。

梯度爆炸:连乘放大致参数发散。缓解:梯度裁剪、正则与归一化。

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题