深度学习框架中,如何量化感知训练并应用OneFlow优化方案?
- 内容介绍
- 文章标签
- 相关推荐
本文共计6530个文字,预计阅读时间需要27分钟。
【GiantPandaCV导语】本文分享的是作者最近在OneFlow上完成的一个项目,将Pytorch+FX移植到OneFlow后,实现了自动量感化感知训练动态图模型(在Pytorch和OneFlow中都称为nn.Module)。现在用户可以在中体验。
这篇文章分享的是笔者最近在OneFlow做的一个项目,将Pytorch FX移植到OneFlow之后实现了自动量化感知训练动态图模型(在Pytorch和OneFlow中都称为nn.Module)。现在用户可以在自己构建的nn.Module基础上,修改很少的代码即可完成从nn.Module量化感知训练到用TensorRT将量化感知训练后的模型部署到GPU上运行的完整链路。在TensorRT上推理是利用了ONNX作为中间表示,即Oneflow动态图模型(nn.Module)->OneFlow量化感知训练模型(nn.Module)->OneFlow静态图(nn.Graph)->ONNX->TensorRT。量化感知训练是基于支持在Eager下写Pass的FX模块(FX被Pytorch率先提出,笔者将其基础设施移植到了OneFlow)来完成的。读者如果想体验这个功能可以按照本文的方法进行操作,有任何使用上的问题可以联系笔者。
0x0. 总览
好久不见,大家国庆快乐!
相信不少小伙伴都了解或者使用了一些深度学习框架比如Pytorch,TensorFlow,OneFlow(也是笔者目前正在参与开发的)。
本文共计6530个文字,预计阅读时间需要27分钟。
【GiantPandaCV导语】本文分享的是作者最近在OneFlow上完成的一个项目,将Pytorch+FX移植到OneFlow后,实现了自动量感化感知训练动态图模型(在Pytorch和OneFlow中都称为nn.Module)。现在用户可以在中体验。
这篇文章分享的是笔者最近在OneFlow做的一个项目,将Pytorch FX移植到OneFlow之后实现了自动量化感知训练动态图模型(在Pytorch和OneFlow中都称为nn.Module)。现在用户可以在自己构建的nn.Module基础上,修改很少的代码即可完成从nn.Module量化感知训练到用TensorRT将量化感知训练后的模型部署到GPU上运行的完整链路。在TensorRT上推理是利用了ONNX作为中间表示,即Oneflow动态图模型(nn.Module)->OneFlow量化感知训练模型(nn.Module)->OneFlow静态图(nn.Graph)->ONNX->TensorRT。量化感知训练是基于支持在Eager下写Pass的FX模块(FX被Pytorch率先提出,笔者将其基础设施移植到了OneFlow)来完成的。读者如果想体验这个功能可以按照本文的方法进行操作,有任何使用上的问题可以联系笔者。
0x0. 总览
好久不见,大家国庆快乐!
相信不少小伙伴都了解或者使用了一些深度学习框架比如Pytorch,TensorFlow,OneFlow(也是笔者目前正在参与开发的)。

