Squeeze-and-Excitation Networks 提出了 SENet,进一步提高了 ResNet 的表达能力。

image.png

对于由卷积神经网络(Convolutional Neural Networks)得到的特征图(Feature Map),其每一层通道(Channel)由上一个特征图所有通道经过卷积操作然后加权相加得到。不同通道由不同组独立的参数得到,这些参数在当前层并无直接交互,互不影响。

且卷积操作是局部的,而 SENet 用全局的 Global pooling 操作计算权值,动态地调整了特征图不同通道之间的权值,给予了通道层与层之间直接交互的能力,提高了表达能力。