pytorch 图像处理,pytorch特征可视化显示
本文主要介绍Pytorch图像处理注意机制的分析和详细的代码解释。有需要的朋友可以借鉴一下，希望能有所帮助。祝大家进步很大，早日升职加薪。
00-1010注意机制是什么？1.SENet 2的实现。CBAM 3的实现。ECA的实现。注意机制的应用
目录
注意力机制是一个非常有效的招数。注意力机制有很多种实现方式。我们一起来了解一下吧。
注意机制是深度学习中的常用技能，有多种实现形式。虽然实现方式多种多样，但每种注意力机制实现的核心都是相似的，那就是注意力。
关注机制的核心焦点是让网络关注它更需要关注的东西。
当我们使用卷积神经网络处理图片时，我们会更倾向于关注应该关注的地方，而不是所有的事情。我们无法手动调整需要注意的地方。这时，如何让卷积神经网络自适应地关注重要对象就变得极为重要。
注意机制是在网络中实现适应性注意的一种方式。
一般来说，注意机制可以分为通道注意机制、空间注意机制以及两者的结合。
下载代码
什么是注意力机制
在深度学习中，常见的实现注意机制的方式有SENet、CBAM、ECA等。
注意力机制的实现方式
SENet是频道关注机制的典型实现。
2017年提出的SENet是上届ImageNet竞赛的获胜者。它的实现图如下所示。对于输入特征层，我们注意每个通道的权重。对于SENet来说，它的重点是获取输入要素图层的各个通道的权重。有了SENet，我们可以让网络关注它最需要关注的频道。
具体实施方式是：
1.对输入要素图层进行全局平均。
2.然后进行两次完全连接，第一次完全连接的神经元个数较少，第二次完全连接的神经元个数与输入特征层相同。
3.完成两次完整连接后，我们再次取Sigmoid，将值固定在0和1之间。此时，我们得到输入要素层中每个通道的权重(在0和1之间)。
4.获得此权重后，我们可以将此权重乘以原始输入要素图层。
实现代码如下：
进口火炬
将torch.nn作为nn导入
导入数学
se_block类(nn。模块):
def __init__(self，channel，ratio=16):
超级(se_block，self)。__init__()
self.avg_pool=nn。AdaptiveAvgPool2d(1)
self.fc=nn。顺序(
nn。线性(通道，通道//比率，偏差=假)，
nn。ReLU(inplace=True)，
nn。线性(通道//比率，通道，偏差=假)，
nn。乙状结肠()
)
定义向前(自身，x):
b，c，_，_=x.size()
y=self.avg_pool(x)。视图(b，c)
y=self.fc(y)。视图(b，c，1，1)
返回x * y
1、SENet的实现
CBAM将通道注意机制和空间注意机制结合起来，可以取得比SENet的单一通道注意机制更好的效果。实现图如下所示。CBAM将为输入要素图层分别处理通道注意机制和空间注意机制。
下图是通道注意机制和空间注意机制的具体实现：
图像的上部是频道注意机制，
通道注意力机制的实现可以分为两个部分，我们会对输入进来的单个特征层，分别进行全局平均池化和全局最大池化。之后对平均池化和最大池化的结果，利用共享的全连接层进行处理，我们会对处理后的两个结果进行相加，然后取一个sigmoid，此时我们获得了输入特征层每一个通道的权值（0-1之间）。
在获得这个权值后，我们将这个权值乘上原输入特征层即可。
图像的下半部分为空间注意力机制，我们会对输入进来的特征层，在每一个特征点的通道上取最大值和平均值。之后将这两个结果进行一个堆叠，利用一次通道数为1的卷积调整通道数，然后取一个sigmoid，此时我们获得了输入特征层每一个特征点的权值（0-1之间）。
在获得这个权值后，我们将这个权值乘上原输入特征层即可。
实现代码如下：
class ChannelAttention(nn.Module):def __init__(self, in_planes, ratio=8):
super(ChannelAttention, self).__init__()
self.avg_pool = nn.AdaptiveAvgPool2d(1)
self.max_pool = nn.AdaptiveMaxPool2d(1)
# 利用1x1卷积代替全连接
self.fc1 = nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False)
self.relu1 = nn.ReLU()
self.fc2 = nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False)
self.sigmoid = nn.Sigmoid()
def forward(self, x):
avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x))))
max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x))))
out = avg_out + max_out
return self.sigmoid(out)
class SpatialAttention(nn.Module):
def __init__(self, kernel_size=7):
super(SpatialAttention, self).__init__()
assert kernel_size in (3, 7), kernel size must be 3 or 7
padding = 3 if kernel_size == 7 else 1
self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False)
self.sigmoid = nn.Sigmoid()
def forward(self, x):
avg_out = torch.mean(x, dim=1, keepdim=True)
max_out, _ = torch.max(x, dim=1, keepdim=True)
x = torch.cat([avg_out, max_out], dim=1)
x = self.conv1(x)
return self.sigmoid(x)
class cbam_block(nn.Module):
def __init__(self, channel, ratio=8, kernel_size=7):
super(cbam_block, self).__init__()
self.channelattention = ChannelAttention(channel, ratio=ratio)
self.spatialattention = SpatialAttention(kernel_size=kernel_size)
def forward(self, x):
x = x * self.channelattention(x)
x = x * self.spatialattention(x)
return x
3、ECA的实现
ECANet是也是通道注意力机制的一种实现形式。ECANet可以看作是SENet的改进版。
ECANet的作者认为SENet对通道注意力机制的预测带来了副作用，捕获所有通道的依赖关系是低效并且是不必要的。
在ECANet的论文中，作者认为卷积具有良好的跨通道信息获取能力。
ECA模块的思想是非常简单的，它去除了原来SE模块中的全连接层，直接在全局平均池化之后的特征上通过一个1D卷积进行学习。
既然使用到了1D卷积，那么1D卷积的卷积核大小的选择就变得非常重要了，了解过卷积原理的同学很快就可以明白，1D卷积的卷积核大小会影响注意力机制每个权重的计算要考虑的通道数量。用更专业的名词就是跨通道交互的覆盖率。
如下图所示，左图是常规的SE模块，右图是ECA模块。ECA模块用1D卷积替换两次全连接。
实现代码如下：
class eca_block(nn.Module):def __init__(self, channel, b=1, gamma=2):
super(eca_block, self).__init__()
kernel_size = int(abs((math.log(channel, 2) + b) / gamma))
kernel_size = kernel_size if kernel_size % 2 else kernel_size + 1
self.avg_pool = nn.AdaptiveAvgPool2d(1)
self.conv = nn.Conv1d(1, 1, kernel_size=kernel_size, padding=(kernel_size - 1) // 2, bias=False)
self.sigmoid = nn.Sigmoid()
def forward(self, x):
y = self.avg_pool(x)
y = self.conv(y.squeeze(-1).transpose(-1, -2)).transpose(-1, -2).unsqueeze(-1)
y = self.sigmoid(y)
return x * y.expand_as(x)
注意力机制的应用
注意力机制是一个即插即用的模块，理论上可以放在任何一个特征层后面，可以放在主干网络，也可以放在加强特征提取网络。
由于放置在主干会导致网络的预训练权重无法使用，本文以YoloV4-tiny为例，将注意力机制应用加强特征提取网络上。
如下图所示，我们在主干网络提取出来的两个有效特征层上增加了注意力机制，同时对上采样后的结果增加了注意力机制。
实现代码如下：
attention_block = [se_block, cbam_block, eca_block]#---------------------------------------------------#
# 特征层->最后的输出
#---------------------------------------------------#
class YoloBody(nn.Module):
def __init__(self, anchors_mask, num_classes, phi=0):
super(YoloBody, self).__init__()
self.phi = phi
self.backbone = darknet53_tiny(None)
self.conv_for_P5 = BasicConv(512,256,1)
self.yolo_headP5 = yolo_head([512, len(anchors_mask[0]) * (5 + num_classes)],256)
self.upsample = Upsample(256,128)
self.yolo_headP4 = yolo_head([256, len(anchors_mask[1]) * (5 + num_classes)],384)
if 1 <= self.phi and self.phi <= 3:
self.feat1_att = attention_block[self.phi - 1](256)
self.feat2_att = attention_block[self.phi - 1](512)
self.upsample_att = attention_block[self.phi - 1](128)
def forward(self, x):
#---------------------------------------------------#
# 生成CSPdarknet53_tiny的主干模型
# feat1的shape为26,26,256
# feat2的shape为13,13,512
#---------------------------------------------------#
feat1, feat2 = self.backbone(x)
if 1 <= self.phi and self.phi <= 3:
feat1 = self.feat1_att(feat1)
feat2 = self.feat2_att(feat2)
# 13,13,512 -> 13,13,256
P5 = self.conv_for_P5(feat2)
# 13,13,256 -> 13,13,512 -> 13,13,255
out0 = self.yolo_headP5(P5)
# 13,13,256 -> 13,13,128 -> 26,26,128
P5_Upsample = self.upsample(P5)
# 26,26,256 + 26,26,128 -> 26,26,384
if 1 <= self.phi and self.phi <= 3:
P5_Upsample = self.upsample_att(P5_Upsample)
P4 = torch.cat([P5_Upsample,feat1],axis=1)
# 26,26,384 -> 26,26,256 -> 26,26,255
out1 = self.yolo_headP4(P4)
return out0, out1
以上就是Pytorch图像处理注意力机制解析及代码详解的详细内容，更多关于Pytorch图像处理注意力机制的资料请关注盛行IT软件开发工作室其它相关文章！
郑重声明：本文由网友发布，不代表盛行IT的观点，版权归原作者所有，仅为传播更多信息之目的，如有侵权请联系，我们将第一时间修改或删除，多谢。