公众号ID｜ComputerVisionGzq
论文地址：https://arxiv.org/pdf/2110.05182.pdf
计算机视觉研究院专栏
作者：Edison_G
在过去的几年里，对深度神经网络的解释性研究，在深度学习社区引起了广泛的关注。
在过去的几年里，对深度神经网络的解释性研究，在深度学习社区引起了广泛的关注。
今天分享中，在这项工作中，研究者研究了视觉显著性，或叫做视觉层面的解释性（或者叫做神经网络可视化），来解释卷积神经网络。现有技术有很多是基于迭代擦除的方式，生成视觉显著性图。与基于迭代的显著性方法相比，基于单次反向传播的显著性方法具有更快的速度，并且在下游视觉任务中得到了广泛的应用，比如CAM。因此，我们的工作侧重于单次反向传播方法。然而，这类现有方法难以成功地生成显著性图，可以专注于特定目标类别，而且显示得很精细。这就是说，使用一个单一的反向传播过程，生成同时满足目标选择性、细粒度的、可靠的显著性图，在该领域是一个具有挑战性的问题。
为了缓解这个问题，研究者重新研究了网络内部的梯度流，发现纠缠的语义和原始权重可能会干扰与目标相关的梯度的传播。受这些观察结果的启发，我们提出了一种新的视觉显著性框架，称为目标选择梯度（TSG）反向传播，它利用校正操作，有效地强调目标类，并进一步有效地将显著性传播到输入空间，从而生成具有目标选择性和细粒度的显著性图。提出的TSG由两个组件组成，即TSG-Conv和TSG-FC，分别用于校正卷积层和全连接层的梯度。在ImageNet和Pascal VOC上进行了大量的定性和定量实验，结果表明，该框架比其他竞争性方法获得了更准确、更可靠的结果。
TSG backprop framework
© THE END
计算机视觉研究院主要涉及深度学习领域，主要致力于人脸检测、人脸识别，多目标检测、目标跟踪、图像分割等研究方向。研究院接下来会不断分享最新的论文算法新框架，我们这次改革不同点就是，我们要着重”研究“。之后我们会针对相应领域分享实践过程，让大家真正体会摆脱理论的真实场景，培养爱动手编程爱动脑思考的习惯！
