I
IT 面试题库
类别特征取值基数极高时,one-hot 编码为什么失效?有哪些替代方案?
高级
简答题
机器学习工程师
数据科学家
特征工程
高基数
编码
题目
考察高基数特征工程。
参考答案
内容深度:基础 · 无代码示例 · 来源:外部链接 · 未复核 · 35 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解
要点
:
问题
:高基数 one-hot 会产生稀疏超大矩阵,树模型分裂收益下降,线性模型训练和推理成本高。
替代方案
:目标编码需要交叉验证防泄漏;哈希编码可控维度;分桶/层级编码利用业务先验;嵌入适合深度模型。
关键
:先做频次分析,低频类别合并为 Other;对 ID 类特征加时间衰减,避免模型学到过期的用户画像。
练这道题
复制链接
同分类 · 高频题
特征工程中编码、归一化/标准化、缺失值处理的常见做法及意义?
新题
什么是特征工程?为什么说「数据和特征决定了模型效果的上限,模型只是去逼近它」?
新题
数值特征如何处理?归一化/标准化、分桶(binning)、幂次/对数变换分别适用什么场景?
新题
类别特征有哪些编码方式(One-Hot、Label、Target/均值编码、Embedding)?各自的优缺点与高基数风险?
新题
题目与答案就在本页;收藏、批注和错题重练在应用内
这道题看完了?
连刷同类题
,趁热打铁效果最好
进入刷题
✕