正确的了解主机 GPU的使用情况，才能更好的给程序分配合适的 BatchData，以下提供 Win10系统与 Ubantu系统下的查询GPU使用情况的方法。
Win10 系统
Win10 系统查看显卡使用情况，打开任务管理器 —> 性能 —> GPU
Ubantu系统
查看Nvidia显卡信息及使用情况
nvidia -smi
Linux查看显卡参数信息：
lspci | grep -i vga
表头释义：
- Fan：显示风扇转速，数值在0到100%之间，是计算机的期望转速，如果计算机不是通过风扇冷却或者风扇坏了，显示出来就是N/A；
- Temp：显卡内部的温度，单位是摄氏度；
- Perf：表征性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能；
- Pwr：能耗表示；
- Bus-Id：涉及GPU总线的相关信息；
- Disp.A：是Display Active的意思，表示GPU的显示是否初始化；
- Memory Usage：显存的使用率；
- Volatile GPU-Util：浮动的GPU利用率；
- Compute M：计算模式；
下边的Processes显示每块GPU上每个进程所使用的显存情况。
如果要周期性的输出显卡的使用情况，可以用watch指令实现：
watch -n 10 nvidia-smi
命令行参数-n后边跟的是执行命令的周期，以s为单位。