文章目录
- 一、简介
- 二、查看GPU状态和信息
- 三、使用
- 3.1临时设置(临时设置方法一定要在第一次使用 cuda 之前进行设置)
- 3.2python 运行时设置
- 3.3永久设置
- 四、参考资料
一、简介
服务器中有多个GPU,选择特定的GPU运行程序可在程序运行命令前使用:CUDA_VISIBLE_DEVICES=0命令。0为服务器中的GPU编号,可以为0, 1, 2, 3等,表明对程序可见的GPU编号。
二、查看GPU状态和信息
nvidia-smi
定时刷新状态,-n(秒),每秒刷新一次
watch -n 1 nvidia-smi
三、使用
需要注意前提是你有GPU
3.1临时设置(临时设置方法一定要在第一次使用 cuda 之前进行设置)
Linux: export CUDA_VISIBLE_DEVICES=1
windows: set CUDA_VISIBLE_DEVICES=1
3.2python 运行时设置
import os
os.environ["CUDA_VISIBLE_DEVICES"] = "1"
或
CUDA_VISIBLE_DEVICES=1 python **.py
注意:临时设置方法一定要在第一次使用 cuda 之前进行设置
3.3永久设置
- linux:
在~/.bashrc 的最后加上export CUDA_VISIBLE_DEVICES=1,然后source ~/.bashrc - windows:
打开我的电脑环境变量设置的地方,直接添加就行了。