如何探讨在多卡服务器中隐藏部分GPU资源以优化TensorFlow显存使用？

本文共计457个文字，预计阅读时间需要2分钟。

服务器配置了多张显卡，通常是共享使用，分配显卡和任务体现公平。除了在代码中指定使用的GPU编号，还可以直接设置可见的GPU编号，使程序/用户仅对部分GPU可见。操作非常简单。

服务器有多张显卡，一般是组里共用，分配好显卡和任务就体现公德了。除了在代码中指定使用的 GPU 编号，还可以直接设置可见 GPU 编号，使程序/用户只对部分 GPU 可见。

操作很简单，使用环境变量 CUDA_VISIBLE_DEVICES 即可。

具体来说，如果使用单卡运行 Python 脚本，则可输入

CUDA_VISIBLE_DEVICES=1 python my_script.py

脚本将只使用 GPU1。

在 .py 脚本和 Notebook 中设置，则

import os

os.environ["CUDA_VISIBLE_DEVICES"] = "2"

还可以直接设置临时的环境变量：

export CUDA_VISIBLE_DEVICES="0"

此时该用户的 CUDA 只看得见 GPU0。