概述:
Ø 更新Block(bneck)
Ø 使用NAS搜索参数 (Neural Architecture Search)
Ø 重新设计耗时层结构
更准确,更高效
以及表中数据展示
更新Block
1.加入SE模块
2.更新了激活函数
首先通过一个1*1的卷积层来进行一个升维处理,然后通过BN以及relu6激活函数,然后再通过一个3*3大小的Dwise卷积第三个卷积层是1*1,起到了一个降维的作用(只跟了一个BN结构没有跟relu函数)
该有一个shortcut捷径分支,输入特征矩阵和输出特征矩阵再相同维度数值上进行一个相加的操作(当stride == 1且 input_c == output_c 才有shortcut连接)
加入了S1模块(注意力机制)
针对我们得到的特征矩阵的每一个channel进行一个磁化处理,我们得到的channel有多少我们得到的一维的向量就有多少个元素再通过两个全连接层得到我们输出的向量se是通道注意力
第二层节点个数等于我们特征矩阵的channels。
NL非线性激活函数
表结构
NBN是不使用BN结构操作
画蓝框的表示这一层没有使用1*1升维。