如何使用torchstat和thop计算循环神经网络RNN的参数量和FLOPs？

本文共计934个文字，预计阅读时间需要4分钟。

概念 + FLOPS与FLOPs的区别：+FLOPS：注意全大写，是floating point operations per second的缩写，指每秒浮点运算次数，是衡量计算机性能的一个指标。+FLOPs：注意小写，是floati的缩写，表示浮点运算。

概念

FLOPS和FLOPs的区别：

• FLOPS：注意全大写，是floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。
• FLOPs：注意s小写，是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。

卷积的FLOPs的计算过程可参考：CNN 模型所需的计算力flops是什么？怎么计算？ - 知乎 (zhihu.com)

在介绍torchstat包和thop包之前，先总结一下：

• torchstat包可以统计卷积神经网络和全连接神经网络的参数和计算量。
• thop包可以统计统计卷积神经网络、全连接神经网络以及循环神经网络的参数和计算量，程序示例等详见下文。