您好,登錄后才能下訂單哦!
小編給大家分享一下如何設置多卡服務器下隱藏部分GPU和TensorFlow的顯存使用,希望大家閱讀完這篇文章后大所收獲,下面讓我們一起去探討方法吧!
服務器有多張顯卡,一般是組里共用,分配好顯卡和任務就體現公德了。除了在代碼中指定使用的 GPU 編號,還可以直接設置可見 GPU 編號,使程序/用戶只對部分 GPU 可見。
操作很簡單,使用環境變量 CUDA_VISIBLE_DEVICES 即可。
具體來說,如果使用單卡運行 Python 腳本,則可輸入
CUDA_VISIBLE_DEVICES=1 python my_script.py
腳本將只使用 GPU1。
在 .py 腳本和 Notebook 中設置,則
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
還可以直接設置臨時的環境變量:
export CUDA_VISIBLE_DEVICES="0"
此時該用戶的 CUDA 只看得見 GPU0。
至于顯存設置,可以設置使用比例(70%):
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.7)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
也可以按需增長:
config = tf.ConfigProto() config.gpu_options.allow_growth = True session = tf.Session(config=config, ...)
如果是 Keras 使用 TensorFlow 后端,則可通過如
import tensorflow as tf from keras.backend.tensorflow_backend import set_session config = tf.ConfigProto() config.gpu_options.allow_growth = True set_session(tf.Session(config=config))
更改使用設置。
看完了這篇文章,相信你對如何設置多卡服務器下隱藏部分GPU和TensorFlow的顯存使用有了一定的了解,想了解更多相關知識,歡迎關注億速云行業資訊頻道,感謝各位的閱讀!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。