如何用PyTorch为模型不同层指定不同的学习率策略?
- 内容介绍
- 文章标签
- 相关推荐
本文共计317个文字,预计阅读时间需要2分钟。
在目标检测模型训练中,我们通常会提取网络backbone。例如,YOLO使用darknet,SSD使用VGG-16。为了达到较好的训练效果,常常会加载预训练的backbone参数,然后在此基础上进行微调。
在目标检测的模型训练中, 我们通常都会有一个特征提取网络backbone, 例如YOLO使用的darknet SSD使用的VGG-16。
为了达到比较好的训练效果, 往往会加载预训练的backbone模型参数, 然后在此基础上训练检测网络, 并对backbone进行微调, 这时候就需要为backbone设置一个较小的lr。
class net(torch.nn.Module): def __init__(self): super(net, self).__init__() # backbone self.backbone = ... # detect self....
在设置optimizer时, 只需要参数分为两个部分, 并分别给定不同的学习率lr。
本文共计317个文字,预计阅读时间需要2分钟。
在目标检测模型训练中,我们通常会提取网络backbone。例如,YOLO使用darknet,SSD使用VGG-16。为了达到较好的训练效果,常常会加载预训练的backbone参数,然后在此基础上进行微调。
在目标检测的模型训练中, 我们通常都会有一个特征提取网络backbone, 例如YOLO使用的darknet SSD使用的VGG-16。
为了达到比较好的训练效果, 往往会加载预训练的backbone模型参数, 然后在此基础上训练检测网络, 并对backbone进行微调, 这时候就需要为backbone设置一个较小的lr。
class net(torch.nn.Module): def __init__(self): super(net, self).__init__() # backbone self.backbone = ... # detect self....
在设置optimizer时, 只需要参数分为两个部分, 并分别给定不同的学习率lr。

