IT 面试题库

L1 与 L2 正则化有何区别?为什么 L1 能做特征选择?

中级简答题算法工程师机器学习工程师深度学习工程师机器学习正则化L1L2特征选择

题目

请在损失函数中加入惩罚项,解释 L1(Lasso)与 L2(Ridge)正则化的数学形式,并从几何与解的角度说明二者差异及 L1 产生稀疏性的原因。

参考答案

内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 75 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

形式(λ 为正则系数)

几何直观(等高线 + 约束区域交点)

为何 L1 能特征选择\n- 绝对值函数在 0 处不可导,次梯度优化会把它推到 0;等价于在最优解处对不重要特征的权重做「截断」。

其他差异

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题