【Attention】用于医学图像分割的双重交叉注意力

Dual Cross-Attention for medical image segmentation

        提出了双交叉注意（Dual Cross-Attention，DCA），这是一种简单而有效的注意模块，可增强基于 U-Net 架构的医学图像分割中的跳接连接。基于 U-Net 架构的简单跳转连接方案难以捕捉多尺度上下文，导致编码器和解码器特征之间存在语义差距。这种语义差距会导致低级和高级特征之间出现冗余，最终限制了分割性能。在本文中，通过依次捕捉多尺度编码器特征中的信道和空间依赖关系来解决这一问题，这些特征能自适应地结合不同尺度的低层次和高层次特征，从而有效弥合语义鸿沟。首先，信道交叉关注（CCA）通过利用多尺度编码器特征的信道标记之间的交叉关注来提取全局信道依赖关系。然后，空间交叉注意（SCA）模块执行交叉注意，捕捉跨空间标记的空间依赖性。最后，这些细粒度编码器特征被上采样并连接到其相应的解码器部分，形成跳转连接方案。我们提出的 DCA 模块可以集成到任何具有跳接功能的编码器-解码器架构中，如 U-Net 及其变体，以及基于视觉转换器的高级架构。使用六个医学图像分割数据集的实验结果表明， DCA 模块只需增加少量参数，就能持续提高整体分割性能。

Introduction：

        虽然 U-Net 及其变体在各种医学图像分割数据集上取得了良好的性能，但仍然存在性能限制。第一个限制来自卷积的局部性，它无法捕捉不同特征之间的长程依赖关系。这主要是由卷积操作的性质造成的，即使用局部核逐渐获得局部感受野，而不是一次性提取全局特征交互（Hu 等人，2019 年）。第二个局限是在简单地连接编码器和解码器特征时，跳过连接所造成的语义差距。最近，Wang 等人（2022 年）的研究表明，U-Net 提出的普通跳转连接方案不足以模拟全局多尺度语境，事实上也是如此、在将低级和高级编码器特征连接到相应的解码器部分之前，先对其进行有效融合。如前所述，一些 U-Net 变体通过加入一系列卷积层或残差层来进一步融合低级和高级编码器和解码器特征，以便将它们与解码器对应部分充分连接起来，从而解决了这种语义鸿沟问题。其中一种方法是 U-Net++（Zhou 等人，2018 年），它通过一系列嵌套的密集跳转路径将编码器特征与解码器特征连接起来。另一种方法是 MultiResUnet（Ibtehaz 和 Rahman，2020 年），它通过在编码器特征上应用一系列具有残差连接的卷积层来引入残差路径，并将其传