解释 BP 算法原理,并说明梯度问题的成因与对策。
BP 思想:前向算出损失,再用链式法则从输出层向输入层逐层求损失对各参数的梯度,配合梯度下降更新权重。核心是“误差沿网络反向传播”。
梯度消失:深层网络激活导数连乘趋零,前层学不动。缓解:用 ReLU 类激活、批量归一化(BN)、残差连接(ResNet)、合理初始化(He/Xavier)。
梯度爆炸:连乘放大致参数发散。缓解:梯度裁剪、正则与归一化。
题目与答案就在本页;收藏、批注和错题重练在应用内