首先找到你需要用到的 backbone,一般有名的backbone 都会在github有相应的代码开源和预训练权重提供
本文以mobilenetv3 + fastercnn 作为举例,在mmdetection中并未提供 mobilenetv3,提供的仅有 mobilenetv2;
在github上找到 mobilenetv3 实现和权重,下载到本地;本文使用参考为:https://github.com/d-li14/mobilenetv3.pytorch
为了能够用在mmdetection体系中,我们要对代码进行修改,以适应mmdetection 配置式构建网络
增加 init_weigths函数
def init_weights(self, pretrained=None):logger = get_root_logger()if self.init_cfg is None and pretrained is None:logger.warn(f'No pre-trained weights for 'f'{self.__class__.__name__}, 'f'training start from scratch')passelse:assert 'checkpoint' in self.init_cfg, f'Only support ' \f'specify `Pretrained` in ' \f'`init_cfg` in ' \f'{self.__class__.__name__} 'if self.init_cfg is not None:ckpt_path = self.init_cfg['checkpoint']elif pretrained is not None:ckpt_path = pretrainedckpt = _load_checkpoint(ckpt_path, logger=logger, map_location='cpu')if 'state_dict' in ckpt:_state_dict = ckpt['state_dict']elif 'model' in ckpt:_state_dict = ckpt['model']else:_state_dict = ckptstate_dict = _state_dictmissing_keys, unexpected_keys = \self.load_state_dict(state_dict, False)logger.info(f"Miss {missing_keys}")logger.info(f"Unexpected {unexpected_keys}")
修改 模型参数列表
可以看到上面用到了 self.init_cfg ,但原始模型并没有,因此需要
修改模型参数列表,添加 init_cfg,out_indices,等
并初始化
修改forward 【结合模型特点、网络结构 进行修改,将out_indices 对应的输出取出来】
def forward(self, x):outs = []# x = self.features(x)for i,f in enumerate(self.features):x = f(x)if i in self.out_indices:outs.append(x)assert (len(outs) == 4)return outs
有些网络的实现并不是直接使用,而是使用配置,来提供不同类型的网络模型,这里就有 small large 两种
由于我们上面的 模型类 修改了参数列表,因此也需要对 这种二次配置的函数 参数列表进行修改 添加 init_cfg,out_indices 等,原有参数尽量保持不变
def mobilenetv3_large(pretrained=False, num_classes = 1000, distillation=False, init_cfg=None, out_indices=[],**kwargs):# ...cfgs = []return MobileNetV3(cfgs, mode='large',init_cfg=init_cfg, out_indices=out_indices,**kwargs)
添加注解
然后,我们要将他们添加到 mmdet 中的 registry 中,
mmdet提供了一种 装饰器的模式 用于将我们自定义的模型 加入到其中
# 导入
from mmdet.models.builder import BACKBONES,MODELS,Necks # 这里定义了mmdetection 的各种组件# 添加 注解
@BACKBONES.register_module()
def mobilenetv3_large():#...@BACKBONES.register_module()
def mobilenetv3_small():#...
这个时候,我们的文件基本修改完成
注意事项
注意这个时候 其实只是配置完成,但在运行时 不会真正加载到 registry 中 ,运行就会发现报错
'mobilenetv3_large is not in the models registry'"
解决方法 就是运行时引入,在train.py 导入这个文件
import mobilenetv3
我在配置时就遇到了这样情况,感谢 https://blog.csdn.net/Kiki_soda/article/details/137491803 提醒
debug
可以看到 我们的模型已经被加载进去
其他方法
官方提供的方法
- 一种是 修改源码层中的 init 文件,这个也要求你的mobilenet文件也要定义在源码文件中
- 使用一种 custom_imports 【尝试未成功】
具体参考官方文档 https://mmdetection.readthedocs.io/zh-cn/v2.21.0/tutorials/customize_models.html
配置文件
然后配置文件,根据模型结构合理设置参数
_base_ = ['./_base_/models/faster_rcnn_r50_fpn.py','./_base_/datasets/coco_detection.py','./_base_/schedules/schedule_1x.py', './_base_/default_runtime.py'
]model = dict(backbone=dict(type='mobilenetv3_large',init_cfg=dict(type='Pretrained',checkpoint='pretrain/mobilenetv3-large-1cd25616.pth', # 预训练权重位置),out_indices = [2, 5, 9, 14], # 根据模型来设置),neck=dict(type='FPN',in_channels=[24, 40, 80, 160], # 根据模型来设置 和out_indices 对应out_channels=256, # 修改这个会牵动 下面很多配置; 如需修改 其他后续参数也需修改num_outs=5))
完成!就可以开始训练了
对于如何设置 out_indices,可以参考 timm 提供的模型 特征输出情况,进而设置
参考:
https://blog.csdn.net/Kiki_soda/article/details/137491803
https://mmdetection.readthedocs.io/zh-cn/v2.21.0/tutorials/customize_models.html
https://www.cnblogs.com/qiulinzhang/p/12252033.html