在机器学习领域，特征重要性分析是一种广泛应用的模型解释工具。但是特征重要性并不等同于特征质量。本文将探讨特征重要性与特征有效性之间的关系，并引入两个关键概念：预测贡献度和错误贡献度。
核心概念
- 预测贡献度：衡量特征在模型预测中的权重，反映模型在训练集上识别的模式。这与传统的特征重要性概念相似。
- 错误贡献度：衡量特征在模型在验证集上产生错误时的权重。这更能反映特征在新数据上的泛化能力。
本文将详细阐述这两个概念的计算方法，并通过实例展示基于错误贡献度的特征选择如何优于传统的基于预测贡献度的方法。
基础概念示例
考虑一个二元分类问题：预测个人年收入是否超过10万美元。假设我们已有模型预测结果：
预测贡献度和错误贡献度的计算主要基于两个要素：
https://avoid.overfit.cn/post/f9b5b319871c489581a2f2af5b25a768
标签：贡献度,预测,错误,特征,模型,贡献,重要性 From： https://www.cnblogs.com/deephub/p/18419936