之前一直在用CPU训练TensorFlow模型，现在来尝试一下GPU训练。

【1】安装GPU必要的软件环境

显卡：MX450（支持CUDA 11.7以下版本）

软件1：Visual Studio 2019 Community

软件2：Cuda 10.1 update2

软件3：cuDNN 8.0.5 for win10(x86) 

环境：在Anacodna中专门建立tensorflow_gpu环境

Python 3.7.16

cudnn 7.6.5

tensorflow-gpu 2.2.0

keras 2.3.1

tensorflow-cuda-keras版本对应如下：

参考文章：cuda安装https://blog.csdn.net/chen565884393/article/details/127905428

 【2】TensorFlow开启GPU加速

import tensorflow as tf
print('tensorflow version:',tf.__version__)  # 查看TensorFlow的版本
print('===================================================')
print('cuda available:',tf.test.is_built_with_cuda()) # 判断CUDA是否可用
print('===================================================')
print(tf.test.is_gpu_available())  # 查看cuda、TensorFlow_GPU和cudnn(选择下载，cuda对深度学习的补充)版本是否对应
print('===================================================')
gpus = tf.config.experimental.list_physical_devices(device_type='GPU') # 查看可用GPU
print(gpus)
import os
#选择使用某一块或多块GPU
#os.environ["CUDA_VISIBLE_DEVICES"] = "0,1"  # =右边"0,1",代表使用标号为0,和1的GPU
os.environ["CUDA_VISIBLE_DEVICES"] = "0"  # =右边"0",代表使用标号为0的GPU
# 查看可用GPU的详细信息
from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())
#  这时候在运行相应的代码，就可以看到在GPU上运行了。可以通过任务管理器-性能处查看GPU使用率。

【3】用Keras训练一个卷积神经网络

[CPU测试] tensorflow 3.9.16 Keras 2.11.0

迭代训练5次，每次消耗实践为12s、13s、14s、14s、12s，加上最后一步的1s，总共耗时66s。

打开任务管理器查看性能：CPU占满100%；用上了一些核显性能（可能是其他设备，不一定是训练消耗的）；独显0%完全不用。

[GPU测试]

开始训练，但是报错了

ValueError: Error when checking input: expected input_1 to have 3 dimensions, but got array with shape (60000, 28, 28, 1)

 将输入层维度修改一下，从

改为

奇怪的是，使用CPU训练时并不需要修改这里的维度。可能是Keras与TensorFlow的版本与现在不同？

 修改后进行训练，结果如下：

 迭代训练5次，每次消耗实践为8s、6s、6s、6s、5s，加上最后一步的1s，总共耗时32s，比CPU耗时减少约50%，GPU加速成功了。

系统性能如下。可见，CPU占用仅42%；独显使用率一般在7%、8%，有时会突然跳到14%左右；核显虽有使用，但关系应该不大（其他程序占用）。

只是用到了如此少的GPU资源，就能获得几乎100%的速度提升，GPU加速还是太强了。可能是我的架构或者代码问题，GPU使用率还是偏低，如果进行相关优化、训练更大的模型，GPU使用率应该是可以更高。