中山市规划建设局网站wordpress posts page

 SE注意力机制概念

        SSqueeze-and-Excitation (SE) 注意力机制是一种专注于增强网络模型对不同特征通道的重要性理解的机制。它通过对通道维度上的特征进行动态调整，增强了网络对重要特征的敏感性。

源码

import numpy as np
import torch
from torch import nn
from torch.nn import initclass SE(nn.Module):def __init__(self, channel=512,reduction=16):super().__init__()self.avg_pool = nn.AdaptiveAvgPool2d(1)self.fc = nn.Sequential(nn.Linear(channel, channel // reduction, bias=False),nn.ReLU(inplace=True),nn.Linear(channel // reduction, channel, bias=False),nn.Sigmoid())def init_weights(self):for m in self.modules():if isinstance(m, nn.Conv2d):init.kaiming_normal_(m.weight, mode='fan_out')if m.bias is not None:init.constant_(m.bias, 0)elif isinstance(m, nn.BatchNorm2d):init.constant_(m.weight, 1)init.constant_(m.bias, 0)elif isinstance(m, nn.Linear):init.normal_(m.weight, std=0.001)if m.bias is not None:init.constant_(m.bias, 0)def forward(self, x):b, c, _, _ = x.size()y = self.avg_pool(x).view(b, c)y = self.fc(y).view(b, c, 1, 1)return x * y.expand_as(x)

第一步，在ultralytics/nn/modules/conv.py文件内添加注意力源码

第二步，在ultralytics/nn/modules/init.py文件内，按下图标识的地方添加注意力名

第一处：在from .conv import()处最后，添加注意力名称

第二处：在__all__={}处最后，添加注意力名称

第三步，在ultralytics/nn/tasks.py文件内，

首先，在from ultralytics.nn.modules import 处添加SE

        其次，键盘点击CTRL+shift+F打开查找界面，搜索elif m in ，在该函数下方有一堆的elif m in XXX，在某一个elif下方添加如下代码

elif m in {SE}:args = [ch[f], *args]

 第五步，在ultralytics/cfg/models/v8文件下，复制yolov8.yaml，并改成自己的名字（如yolov8-SE.yaml），做出如下修改：

运行结果如下 ，表示成功。