SHAP 工作原理

目录

Introduction

Introduction

SHAP(Shapley Additive Explanations) 是基于博弈论的shapley值， 来衡量各个特征对模型预测值的贡献度。那么什么是shapley值，SHAP又是如何使用它来解释模型的呢？

Shapley Values

Shapley values是Lloyd Shapley提出的，主要是为了解决以下问题：

If we have a coalition C that collaborates to produce a value V:

How much did each individual member contribute to the final value?

Shapley Values就是衡量联盟中每个成员对整体收益的贡献值的方法。

Lloyd获得过诺贝尔经济学奖，是博弈论领域当之无愧的无冕之王。

由于联盟中成员之间会相互影响，导致成员们在不同的组合中贡献值会不一样。

比如：