1. SKAM介绍
SKAM(SimAM and SKAttention Module)注意力机制结合了SimAM和SKAttention的优点,能够在图像特征提取中表现出更为优异的性能。
SimAM注意力机制
SimAM(Simplified Attention Module)是一种简单但有效的注意力机制,旨在增强重要特征,同时抑制不相关的特征。SimAM的主要优点包括:
(1). 计算简单:SimAM仅需计算均值和方差,并进行简单的归一化处理,计算成本低。
(2). 效果显著:通过对每个特征点进行归一化处理,SimAM可以有效地突出显著特征。
然而,SimAM的局限性在于它只考虑了特征图内部的像素关系,而未能充分利用不同尺度的特征信息。
SKAttention注意力机制
SKAttention(Selective Kernel Attention)是一种更复杂的注意力机制,它通过多尺度卷积核和通道注意力机制来捕捉不同尺度的特征。其主要优点包括:
(1). 多尺度特征提取:SKAttention通过使用不同大小的卷积核来提取多尺度特征,使其能够更好地适应不同大小的目标。
(2). 通道注意力:通过通道注意力机制,SKAttention能够自适应地调整不同通道的权重,从而更加有效地聚焦于重要特征。
SKAttention的局限性在于其计算复杂度较高,特别是当使用多个卷积核时,计算成本和内存占用都会增加。
标签:特征,SimAM,YOLOv10,SKAM,独家,SKAttention,机制,注意力 From: https://blog.csdn.net/tsg6698/article/details/140513788