如何用PyTorch为模型不同层指定不同的学习率策略？
- 内容介绍
- 文章标签
- 相关推荐
本文共计317个文字，预计阅读时间需要2分钟。
在目标检测模型训练中，我们通常会提取网络backbone。例如，YOLO使用darknet，SSD使用VGG-16。为了达到较好的训练效果，常常会加载预训练的backbone参数，然后在此基础上进行微调。
在目标检测的模型训练中， 我们通常都会有一个特征提取网络backbone， 例如YOLO使用的darknet SSD使用的VGG-16。
为了达到比较好的训练效果， 往往会加载预训练的backbone模型参数， 然后在此基础上训练检测网络， 并对backbone进行微调， 这时候就需要为backbone设置一个较小的lr。
class net(torch.nn.Module): def __init__(self): super(net, self).__init__() # backbone self.backbone = ... # detect self....
在设置optimizer时， 只需要参数分为两个部分， 并分别给定不同的学习率lr。
base_params = list(map(id, net.backbone.parameters())) logits_params = filter(lambda p: id(p) not in base_params, net.parameters()) params = [ {"params": logits_params, "lr": config.lr}, {"params": net.backbone.parameters(), "lr": config.backbone_lr}, ] optimizer = torch.optim.SGD(params, momentum=config.momentum, weight_decay=config.weight_decay)
以上这篇pytorch 实现模型不同层设置不同的学习率方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持易盾网络。
本文共计317个文字，预计阅读时间需要2分钟。
在目标检测模型训练中，我们通常会提取网络backbone。例如，YOLO使用darknet，SSD使用VGG-16。为了达到较好的训练效果，常常会加载预训练的backbone参数，然后在此基础上进行微调。
在目标检测的模型训练中， 我们通常都会有一个特征提取网络backbone， 例如YOLO使用的darknet SSD使用的VGG-16。
为了达到比较好的训练效果， 往往会加载预训练的backbone模型参数， 然后在此基础上训练检测网络， 并对backbone进行微调， 这时候就需要为backbone设置一个较小的lr。
class net(torch.nn.Module): def __init__(self): super(net, self).__init__() # backbone self.backbone = ... # detect self....
在设置optimizer时， 只需要参数分为两个部分， 并分别给定不同的学习率lr。
base_params = list(map(id, net.backbone.parameters())) logits_params = filter(lambda p: id(p) not in base_params, net.parameters()) params = [ {"params": logits_params, "lr": config.lr}, {"params": net.backbone.parameters(), "lr": config.backbone_lr}, ] optimizer = torch.optim.SGD(params, momentum=config.momentum, weight_decay=config.weight_decay)
以上这篇pytorch 实现模型不同层设置不同的学习率方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持易盾网络。