TensorFlow显存使用原理及策略如何详细解析？
- 内容介绍
- 文章标签
- 相关推荐
本文共计544个文字，预计阅读时间需要3分钟。
在默认情况下，TensorFlow 会自动检测并使用所有可用的 GPU 和内存（通过 CUDA_VISIBLE_DEVICES 确定）。通过优化内存碎片，可以更有效地利用相对昂贵的 GPU 和内存资源。在某些情况下，这样做可能更有效。
默认情况下，TensorFlow 会映射进程可见的所有 GPU 的几乎所有 GPU 内存（取决于 CUDA_VISIBLE_DEVICES）。通过减少内存碎片，可以更有效地使用设备上相对宝贵的 GPU 内存资源。
在某些情况下，最理想的是进程只分配可用内存的一个子集，或者仅根据进程需要增加内存使用量。 TensorFlow 在 Session 上提供两个 Config 选项来进行控制。
(1) : 自主申请所用的内存空间
第一个是 allow_growth 选项，它试图根据运行时的需要来分配 GPU 内存：它刚开始分配很少的内存，随着 Session 开始运行并需要更多 GPU 内存，我们会扩展 TensorFlow 进程所需的 GPU 内存区域。请注意，我们不会释放内存，因为这可能导致出现更严重的内存碎片情况。
本文共计544个文字，预计阅读时间需要3分钟。
在默认情况下，TensorFlow 会自动检测并使用所有可用的 GPU 和内存（通过 CUDA_VISIBLE_DEVICES 确定）。通过优化内存碎片，可以更有效地利用相对昂贵的 GPU 和内存资源。在某些情况下，这样做可能更有效。
默认情况下，TensorFlow 会映射进程可见的所有 GPU 的几乎所有 GPU 内存（取决于 CUDA_VISIBLE_DEVICES）。通过减少内存碎片，可以更有效地使用设备上相对宝贵的 GPU 内存资源。
在某些情况下，最理想的是进程只分配可用内存的一个子集，或者仅根据进程需要增加内存使用量。 TensorFlow 在 Session 上提供两个 Config 选项来进行控制。
(1) : 自主申请所用的内存空间
第一个是 allow_growth 选项，它试图根据运行时的需要来分配 GPU 内存：它刚开始分配很少的内存，随着 Session 开始运行并需要更多 GPU 内存，我们会扩展 TensorFlow 进程所需的 GPU 内存区域。请注意，我们不会释放内存，因为这可能导致出现更严重的内存碎片情况。