卷!超越 Swin、ConvNeXt |Facebook提出Neighborhood Attention Transformer
共 3973字,需浏览 8分钟
·
2022-04-27 17:12
![](https://filescdn.proginn.com/b32ed553762d413e79b61201ebdd0ff2/1a5f3ef554bc0cecac41c17e5eca566b.webp)
本文提出了Neighborhood Attention Transformer(NAT),NAT是一种集高效、准确和可扩展的分层Transformer,Neighborhood Attention是一种简单而灵活的
Self Attention
机制,它将每个query的感受野扩展到其最近的邻近像素,并随着感受野的增大而接近Self-Attention
。在FLOPs和内存使用方面,与相同的感受野大小带有Shifted Window Attention的Swin-Transformer相同,但是NAT受到的约束更少。
此外,NA还包含了局部归纳偏差,这消除了的额外操作,如像素移动。
NAT-Tiny在ImageNet上达到83.2%的Top-1精度,只有4.3 GFLOPs和28M参数,在MS-COCO上的mAP为51.4%,ADE20k上的mIoU为48.4%。
1事出缘由
自2020年以来,学术界已经提出很多关于Vision Transformer
的架构和方法,也有很多关于高效Transformer
的工作被提出。但是,不管是标准的ViT
还是高效的ViT
,虽然其中的Self Attention
相对于嵌入维度具有线性复杂度(不包括线性投影),但相对于Token
数量却具有二次复杂度。而Token
的数量通常又与图像分辨率呈线性相关。因此,更高的图像分辨率将会带来复杂度和内存的二次增长。
对于ViT
的应用来说,这是一个很严峻的问题,因为过高的复杂度和计算量会影响模型应用于下游的视觉任务,如目标检测和语义分割,因为这些任务中图像分辨率通常比分类大得多。
另一个问题是,卷积的性能大多受益于归纳偏差
,如局部性
、平移等方差
和二维邻域结构
,而 dot-product Self Attention
是一个全局的操作。虽然Vision Transformer
中的MLP
层具有具有局部性
和平移不变性
,但其余的归纳偏差
必须通过大量数据或炼丹技术和增强来弥补。
因此,有研究便采用Local attention modules
来减轻这个问题。Swin-Transformer
是第一个基于Local attention
的分层Vision Transformer
。Swin-Transformer
的层次结构
设计和Shifted-Window Self Attention
使其可以比较容易地应用到下游任务,同时也通过注入的额外偏差提高了性能。HaloNet
探索了另一种Local Attention Block
,并发现将Local Attention Block
和卷积
结合起来可以获得最佳性能,因为该组合操作在内存使用
和平移不变性
之间进行了最佳权衡。
基于以上描述,作者在本文中提出Neighborhood Attention
(NA),并在此基础上构建Neighborhood Attention Transformer
(NAT),在跨视觉任务上实现了具有竞争性的结果。
NA是dot-product Self Attention
的一种局部化,将每个query token
的感受野限制在key-value pair
中对应token
周围的一个固定大小的邻域内。较小的感受野带来更多的局部信息,而较大的感受野带来更多的全局信息。这种设计使感受野能够很好的控制平移不变性
和平移等方差
的平衡。
NA
是受到卷积的局部性的启发,以及它们如何产生更多有利于视觉任务的局部性归纳偏差
。它不同于将Self Attention
应用于Local Windows
(Swin),可以将其视为与Content-Dependant Kernel
的卷积。
2主要贡献
Neighborhood Attention
(NA):一种简单、灵活的视觉注意力机制,它将每一个Token
的感受野定位到Token
的邻域。并将该模块的复杂性和内存使用量与Self Attention
、Window Self Attention
和卷积进行了比较。构建了
Neighborhood Attention Transformer
(NAT),一种由Neighborhood Attention
组成的高效、准确、可扩展的新型分层Transformer
。每一层之后都进行下采样操作,将空间大小减少一半。类似的设计可以在许多最近的基于注意力的模型中看到,如Swin和Focal Transformer。与那些模型不同,NAT利用小内核重叠卷积来嵌入和下采样,而不是非重叠卷积。与Swin等现有技术相比,NAT还引入了一组更有效的体系结构配置。展示了NAT在图像分类和下游视觉任务(包括目标检测和语义分割)中的有效性。作者观察到NAT的性能不仅优于Swin Transformer,还优于ConvNeXt。NAT-Tiny模型在ImageNet上仅用4.3 GFLOPs和28M参数就能达到83.2%的top-1精度,在MS-COCO上达到51.4%的Box mAP,在ADE20k上达到48.4%的多尺度mIoU,为这种简单、小规模的
Transformer
模型创造了水平。
![](https://filescdn.proginn.com/7069e1bf69089154505f8260c4dfa780/88d8223421fe4066c1a5eb80c49dd3d3.webp)
3本文方法
与Self Attention
相比,Neighborhood Attention
不仅减少了计算成本,而且引入了类似于卷积的局部归纳偏差。该操作适用于邻域大小L,当每个像素最小时,它只关注自身周围的1个像素邻域(创建一个3×3方形窗口)。
作者还表明,当邻域大小达到最大值(即输入的大小)时,Neighborhood Attention
等于Self Attention
。因此,如果邻域大小超过或匹配feature map的大小,在相同的输入下,Neighborhood Attention
和Self Attention
的输出是相等的。
此外,NAT利用了一个多级分层设计,类似于Swin-Transformer
,这意味着特征映射在级别之间被向下采样,而不是一次性全部采样。然而,与Swin-Transformer
不同的是,NAT
使用重叠卷积来向下采样特征映射,而不是不重叠的映射。这略微增加了计算量和参数,作者也通过提出计算成本较低的配置来弥补这一点。
3.1 Neighborhood Attention
Neighborhood Attention
主要是受卷积如何引入邻域偏差和局部性的启发。Neighborhood Attention
的目的是允许特征图中的每个像素只关注其相邻的像素。由于邻域依赖于size,因此Neighborhood Attention
机制也是如此。
用表示处的一个像素的邻域,它是最接近的像素的一个固定长度的索引集。对于大小为。因此,在单个像素上的Neighborhood Attention
可以定义如下:
![](https://filescdn.proginn.com/5ac1b47992a2a5ec3e00bc2ccc794214/e449ffc278fcfa05f80e8893174e931d.webp)
其中,其中Q、K、V是X的线性投影,为相对位置偏差,根据相对位置将其添加到每个注意力权重中。这个操作可以进一步扩展到所有像素,从而形成一种局部注意力的形式。
然而,如果函数将每个像素映射到所有像素,这将等同于Self Attention
(带有额外的位置偏差)。这是因为当邻域边界超过输入大小时,将包括所有可能的像素。结果,和,通过去除偏置项,推导出Self Attention
的表达形式:
![](https://filescdn.proginn.com/7bdfc71f8e035dec9ca21d2b11fcc79f/2b3b7f9f6f2121e206040d666a4820ca.webp)
Neighborhood Attention
在计算上是很廉价的。它的复杂性相对于分辨率是线性的,不像Self Attention
是二次的。此外,其复杂度也与邻域大小呈线性关系。函数将一个像素映射到一组相邻的像素,可以很容易地通过Raster-Scan Sliding Window
操作产生,原理类似于卷积。
![](https://filescdn.proginn.com/521278045b562a327294be0d4f3ecf67/ad0d5d663189ef5501517c4a5c8299d0.webp)
每个像素被简单地映射到一组相邻的像素和自身。图2展示了该操作的示例。对特征图中的每个像素重复此操作。对于不能居中的角像素,扩展邻域以保持感受野的大小。这是一个关键的设计选择,它允许NA随着邻域大小向特征图分辨率增长而一般化到Self Attention
。
![](https://filescdn.proginn.com/469db004b69d29c5da8b167a9237d3a5/055de94ee5a8d73e3216c146ec0c6b55.webp)
扩展邻域是通过简单持续选择L2中最接近原始邻域的像素来实现的。例如,对于L=3,每个query将以围绕它的9个key-value像素结束(query位于中心的3×3网格)。
对于角像素,邻域是另一个3×3网格,但query没有定位在中心。图6展示了这个想法的说明。
![](https://filescdn.proginn.com/fbaf55b5b4b85b2c3cec5a418af59b80/1ff7e0248ec164098be49f622ca176c4.webp)
通过上表可以看出,Neighborhood Attention
的复杂度和内存消耗和Swin相同。
3.2 Neighborhood Attention Transformer
NAT通过使用2个连续的3×3卷积(stride=2)来嵌入输入,进而产生输入空间大小1/4的输入。这类似于使用patch和4×4 patch的嵌入层,但它使用的是重叠卷积
而不是非重叠卷积
。
另一方面,使用重叠卷积
会增加成本,而2次卷积会引入更多的参数。然而,作者通过重新配置模型来处理这个问题,这将产生更好的权衡。
NAT
由4个level组成,每个level后面都链接一个下采样器(最后一个除外)。下采样器将空间大小减少了为原来的一半,而通道数量增加了一倍。这里下采样使用的是3×3卷积(stride=2)。由于tokenizer
的降采样倍数为4倍,因此模型生成了大小为H/4×W/4、H/8×W/8、H/16×W/16和H/32×W/32的特征图.使得NAT
可以更容易地将预训练过的模型迁移到下游任务中。
![](https://filescdn.proginn.com/05929dd4c0193e2e0181e3069e6c52d8/5b61abc3eca44c9942d156dea1502d31.webp)
此外,在训练较大的模型时,使用LayerScale来提高稳定性。图4展示了整体网络架构的说明。在下表中总结了不同的NAT变体
及其关键差异。
![](https://filescdn.proginn.com/8377262dbfca2815aabfb566628383d1/41bfdb7badca0e2f33acea8f9c892d26.webp)
4实验结果
4.1 分类实验
![](https://filescdn.proginn.com/f24a9f9bef6d25375cd9c83415caae28/92a888b773f0b986e45782ffd8ed4b95.webp)
4.2 目标检测
![](https://filescdn.proginn.com/b37d6863750970189ad5fcf5de65d874/d781cd5bb5cc9f0e1c65c73de8ddcfd4.webp)
4.3 语义分割
![](https://filescdn.proginn.com/7b4504c8dafba1620063e6eb2f11f4bf/080419969c568313ce87353c92f20e65.webp)
4.4 可视化分析
![](https://filescdn.proginn.com/8629c2911426bb1767e0ac8aee869804/484b7b46c4ae4035b1dce9d99e739ce5.webp)
5参考文献
[1].Neighborhood Attention Transformer