如何有效缓解Tensorflow导致的GPU显存占用过高问题？

本文共计338个文字，预计阅读时间需要2分钟。

在使用PyTorch进行模型训练时，发现真实模型对显存占用并不明显，但转换为TensorFlow后（包括权重转换），Python-TensorFlow在运行时默认吃掉所有显存，且不手动释放。

我使用Pytorch进行模型训练时发现真正模型本身对于显存的占用并不明显，但是对应的转换为tensorflow后（权重也进行了转换），发现Python-tensorflow在使用时默认吃掉所有显存，并且不手动终结程序的话显存并不释放（我有两个序贯的模型，前面一个跑完后并不释放占用显存）（github.com/tensorflow/tensorflow/issues/1727），这一点对于后续的工作有很大的影响。