空洞卷积+RPReLU让计算量暴降,还要涨点10%的秘密: 多尺度二值化分组扩张卷积| 即插即用模块与论文写作【V1代码讲解149】
多尺度二值化分组扩张卷积(Multi-scale grouped dilated convolution,MSGDC):
实际意义:①计算复杂度高:在特征提取阶段,特征金字塔会使特征具有较大空间分辨率,这会显著增加复杂度。
②增强二值激活的表征能力:在二值化过程中,原本丰富的连续数值信息被简化为二值,不可避免会损失部分信息。
(如何既降低计算量,也提高精度呢?)
实现方式:①采用分组空洞卷积,在相比普通卷积和自注意力模块,能减少参数和计算量,缓解计算压力。
②在二值化的情况下,RPReLU激活函数可以更好地保留有用的信息,使得二值激活在有限的取值范围内,尽可能准确地代表原始数据特征,进而提升表征能力。
涨点以后如何写作?:【此部分 请务必看视频 视频更为详细】
立即观看