IT 面试题库

训练深度网络时,学习率 warmup、归一化和梯度裁剪分别解决什么问题?

高级简答题研究科学家warmup归一化梯度裁剪训练稳定性

题目

考察大模型/深度网络训练稳定性的常用手段和边界。

参考答案

内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 28 天前更新

Warmup

归一化

梯度裁剪

一起用

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题