如何避免tensorflow训练过程中内存持续膨胀至满载状态？

本文共计726个文字，预计阅读时间需要3分钟。

记录一次小白学习TensorFlow的过程，也为有同样困扰的小白留下些经验。

首先，我遇到了代码错误和解决过程。在迁移风格实验中，我使用了预加载的VGG19网络进行正向提取中间层结果。问题出在代码上，因为提取结果因代码错误而丢失。

解决方法是仔细检查代码，确保正确提取了中间层输出。最终，我成功获得了所需的中间层结果。

记录一次小白的tensorflow学习过程，也为有同样困扰的小白留下点经验。

先说我出错和解决的过程。在做风格迁移实验时，使用预加载权重的VGG19网络正向提取中间层结果，结果因为代码不当，在遍历图片提取时内存持续增长，导致提取几十个图片的特征内存就满了。

原因是在对每一张图片正向传播结束后，都会在留下中间信息。具体地说是在我将正向传播的代码与模型的代码分离了，在每次遍历图片时都会正向传播，在tensorflow中新增加了很多的计算节点（如tf.matmul等等），导致内存中遗留了大量的过期信息。

纠正的做法就是一个前提：避免在循环训练图片时额外使用tf计算资源。

使用placeholder作为输入数据的入口，在模型中定义需要使用的函数，包括正向传播。不要在遍历图片时额外使用tf计算。

遇到这种问题一定要回头检查代码，尤其是在别人写的代码基础上改时。 多学习公开的源码。