机器学习的可解释性Explainable ML

• 作用：基于机器学习的可解释性我们可以优化机器学习模型
• 线性模型虽然容易解释，但不够强大，深度学习的模型强大，但不容易解释

Explainable ML包括Local Explaination和Global Explaination：

• Local Explaination：针对个例解释什么特征让机器得出结果
• Global Explaination：针对辨别方法解释

Local Explaination：

例如一个模型输入一张图片x，这张图片可以拆成多个组件{x1,x2,…}，在这些组件中哪一个对机器做出最终决断最重要

方法：可以依次把每个组件改造或删除，看那个组件对机器得出结果影响最大

输入图片，写作像素{x1,x2,…,xn}，计算图片的Loss，记为e（e越大表示和和正确答案越大）

做改变：

 计算：，得到某个像素对结果的重要性

_{图中白色的点就是通过以上方法得到对结果影响重要的像素点}

Global Explaination：

• 不是针对某特定个例来解释，而是把训练好的模型拿出来，根据模型中的参数检查，对这个Network而言一只猫长什么样；对训练好的Network，要针对任何图片分析

例如：我们想要知道什么样的图片在这个Network的认识中最像一只猫

方法：可以制造一张图片，让机器画出他认为最像猫的图片

设图片的参数为，让机器找出让结果最大的X^*，转回图片就是机器画出的他认为最像猫的图片

机器直接找出的照片，人却很难分辨；所以可以使用Generator，训练出一个Generator用于产生图片：

向Generator输入低纬向量z，输出X，再把X输入图片分类的Network得到分数，找生成图片中分数高的就是图片分类的Network认为最像猫的样子