如何使用PyTorch在载入预训练模型后训练特定层?
- 内容介绍
- 文章标签
- 相关推荐
本文共计698个文字,预计阅读时间需要3分钟。
1. 使用已训练好的模型参数
2.对模型某些层进行修改
3.利用训练好的模型参数进行继续训练:
pretrained_params=torch.load('Pretrained_Model') model=The_New_Model(xxx) model.load_state_dict(pretrained_params)1、有了已经训练好的模型参数,对这个模型的某些层做了改变,如何利用这些训练好的模型参数继续训练:
pretrained_params = torch.load('Pretrained_Model') model = The_New_Model(xxx) model.load_state_dict(pretrained_params.state_dict(), strict=False)
strict=False 使得预训练模型参数中和新模型对应上的参数会被载入,对应不上或没有的参数被抛弃。
本文共计698个文字,预计阅读时间需要3分钟。
1. 使用已训练好的模型参数
2.对模型某些层进行修改
3.利用训练好的模型参数进行继续训练:
pretrained_params=torch.load('Pretrained_Model') model=The_New_Model(xxx) model.load_state_dict(pretrained_params)1、有了已经训练好的模型参数,对这个模型的某些层做了改变,如何利用这些训练好的模型参数继续训练:
pretrained_params = torch.load('Pretrained_Model') model = The_New_Model(xxx) model.load_state_dict(pretrained_params.state_dict(), strict=False)
strict=False 使得预训练模型参数中和新模型对应上的参数会被载入,对应不上或没有的参数被抛弃。

