方法1：下载gpu-Z，然后运行tensorflow一个训练，然后打开gpu-z，看到load等数据百分比，变大就是在用了，如图
方法2,：安装nvidia-smi，配置好路径，在cmd里输入 nvidia-smi，看显示出来的信息。这个方法我没有试过，但是据说在linux和Windows下都有用。
方法3：
import tensorflow as tf
sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
日志里有gpu信息就是有用到GPU。
参考http://blog.csdn.net/castle_cc/article/details/78389082