PyTorch的torch.nn与torch.nn.functional模块有何具体差异?

2026-05-21 17:450阅读0评论SEO资讯
  • 内容介绍
  • 文章标签
  • 相关推荐

本文共计336个文字,预计阅读时间需要2分钟。

PyTorch的torch.nn与torch.nn.functional模块有何具体差异?

原文链接:[torch.nn](https://pytorch.org/docs/stable/nn.) + pytorch中文文档链接:[torch.nn](https://pytorch.org/docs/zh/stable/nn.)

在`__init__`函数中定义,是一个类:pythonclass MyLayer(torch.nn.Module):

在`__forward__`函数中定义,是一个函数:pythondef __forward__(self, x):

原文链接

torch.nn

pytorch中文文档链接:torch.nn

在__init__()函数里定义,定义的是一个类:

torch.nn.functional

pytorch中文文档链接:torch.nn.functional

在__forward()__函数里定义,定义的是一个函数:

两者的区别

torch.nn中是一个定义的类,以class xx来定义的,可以提取变化的学习参数。

torch.nn.functional是一个函数,由def function( )定义,是一个固定的运算公式。

深度学习中会有很多权重是在不断更新的,所以需要采用类的方式,以确保能在参数发生变化时仍能使用我们之前定好的运算步骤。因此如果模型有可学习的参数,应该使用nn.Module,否则两个没有区别。但是简单的计算不需要新建一个类来做,所以使用nn.functional定义函数就可以。

即:层内有variable的情况用nn定义,否则用nn.functional定义。

阅读全文

本文共计336个文字,预计阅读时间需要2分钟。

PyTorch的torch.nn与torch.nn.functional模块有何具体差异?

原文链接:[torch.nn](https://pytorch.org/docs/stable/nn.) + pytorch中文文档链接:[torch.nn](https://pytorch.org/docs/zh/stable/nn.)

在`__init__`函数中定义,是一个类:pythonclass MyLayer(torch.nn.Module):

在`__forward__`函数中定义,是一个函数:pythondef __forward__(self, x):

原文链接

torch.nn

pytorch中文文档链接:torch.nn

在__init__()函数里定义,定义的是一个类:

torch.nn.functional

pytorch中文文档链接:torch.nn.functional

在__forward()__函数里定义,定义的是一个函数:

两者的区别

torch.nn中是一个定义的类,以class xx来定义的,可以提取变化的学习参数。

torch.nn.functional是一个函数,由def function( )定义,是一个固定的运算公式。

深度学习中会有很多权重是在不断更新的,所以需要采用类的方式,以确保能在参数发生变化时仍能使用我们之前定好的运算步骤。因此如果模型有可学习的参数,应该使用nn.Module,否则两个没有区别。但是简单的计算不需要新建一个类来做,所以使用nn.functional定义函数就可以。

即:层内有variable的情况用nn定义,否则用nn.functional定义。

阅读全文