宽屏大气网站模板百度seo排名教程

论文《GCNet: Non-local Networks Meet Squeeze-Excitation Networks and Beyond》

1、作用

GCNet通过聚合每个查询位置的全局上下文信息来捕获长距离依赖关系，从而改善了图像/视频分类、对象检测和分割等一系列识别任务的性能。非局部网络（NLNet）首次提出了通过聚合查询特定的全局上下文到每个查询位置来捕获长距离依赖的方法。GCNet在此基础上进行了改进和简化，旨在以更少的计算量保持NLNet的准确性。

2、机制

GCNet通过以下三个步骤来建模全局上下文：

1、上下文建模：

通过加权平均所有位置的特征来形成全局上下文特征

2、特征转换：

捕捉通道间的依赖关系。

3、融合：

将全局上下文特征合并到每个位置的特征中。GCNet发现NLNet中的全局上下文对于图像内的不同查询位置几乎是相同的，基于这一发现，GCNet采用了查询独立的注意力图来简化计算过程。

3、独特优势

1、计算效率：GCNet通过使用查询独立的注意力图显著减少了计算量，与NLNet相比，保持了准确性的同时大幅减少了计算需求。

2、轻量级：GCNet的设计允许它被应用于背骨网络的多个层次，与SENet相似，它通过特征重标定和全局上下文建模来提高性能，但引入的计算和参数增量非常小。

3、通用性和鲁棒性：在多个基准数据集和不同的视觉识别任务（如对象检测/分割、图像分类和动作识别）上，GCNet普遍优于简化的NLNet和SENet，展示了其优越的性能和广泛的适用性。

4、代码

import torch
import torch.nn as nn# 定义全局上下文块类
class GlobalContextBlock(nn.Module):def __init__(self, inplanes, ratio, pooling_type="att", fusion_types=('channel_mul')) -> None:super().__init__()# 定义有效的融合类型valid_fusion_types = ['channel_add', 'channel_mul']# 断言池化类型为'avg'或'att'assert pooling_type in ['avg', 'att']# 断言至少使用一种融合方式assert len(fusion_types) > 0, 'at least one fusion should be used'# 初始化基本参数self.inplanes = inplanesself.ratio = ratioself.planes = int(inplanes * ratio)self.pooling_type = pooling_typeself.fusion_type = fusion_typesif pooling_type == 'att':self.conv_mask = nn.Conv2d(inplanes, 1, kernel_size=1)self.softmax = nn.Softmax(dim=2)else:# 否则，使用自适应平均池化self.avg_pool = nn.AdaptiveAvgPool2d(1)# 如果池化类型为'att'，使用1x1卷积作为掩码，并使用Softmax进行归一化if 'channel_add' in fusion_types:self.channel_add_conv = nn.Sequential(nn.Conv2d(self.inplanes, self.planes, kernel_size=1),nn.LayerNorm([self.planes, 1, 1]),nn.ReLU(inplace=True),nn.Conv2d(self.planes, self.inplanes, kernel_size=1))else:self.channel_add_conv = None# 如果融合类型包含'channel_mul'，定义通道相乘卷积if 'channel_mul' in fusion_types:self.channel_mul_conv = nn.Sequential(nn.Conv2d(self.inplanes, self.planes, kernel_size=1),nn.LayerNorm([self.planes, 1, 1]),nn.ReLU(inplace=True),nn.Conv2d(self.planes, self.inplanes, kernel_size=1))else:self.channel_mul_conv = None# 定义空间池化函数def spatial_pool(self, x):batch, channel, height, width = x.size()if self.pooling_type == 'att':input_x = xinput_x = input_x.view(batch, channel, height * width) # 使用1x1卷积生成掩码input_x = input_x.unsqueeze(1)context_mask = self.conv_mask(x) # 使用1x1卷积生成掩码context_mask = context_mask.view(batch, 1, height * width)context_mask = self.softmax(context_mask)# 应用Softmax进行归一化context_mask = context_mask.unsqueeze(-1)context = torch.matmul(input_x, context_mask) # 计算上下文context = context.view(batch, channel, 1, 1)else:context = self.avg_pool(x) # 执行自适应平均池化return context# 定义前向传播函数def forward(self, x):context = self.spatial_pool(x)out = xif self.channel_mul_conv is not None:channel_mul_term = torch.sigmoid(self.channel_mul_conv(context))  # 将权重进行放大缩小out = out * channel_mul_term  # 与x进行相乘if self.channel_add_conv is not None:channel_add_term = self.channel_add_conv(context)out = out + channel_add_termreturn outif __name__ == "__main__":input = torch.randn(16, 64, 32, 32)  #生成随机数net = GlobalContextBlock(64, ratio=1 / 16) #还是实例化哈out = net(input)print(out.shape)