IT 面试题库

偏差-方差权衡(Bias-Variance Tradeoff)是什么?

中级开放讨论题算法工程师机器学习工程师深度学习工程师机器学习偏差方差泛化误差

题目

请用数学分解说明期望泛化误差如何拆成偏差、方差与噪声,并解释模型复杂度与二者的关系。

参考答案

内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 75 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

对真实函数 f 与预测模型 ŷ,期望平方误差可分解为:

$$E[(y-\hat f(x))^2] = Bias^2 + Variance + Irreducible\ Noise$$

其中:

权衡关系

应用:正则化、集成(Bagging 降方差、Boosting 降偏差)本质上都是在调节这一权衡。例如随机森林通过平均多个高方差树降低方差;线性回归加 L2 正则抬高偏差、压低方差。

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题