RuntimeError: cuDNN error: CUDNN_STATUS_NOT_SUPPORTED

简述

查了很久，还是没找到我对应的问题的解决方案。最后还是大佬给来一个可行的代码，我才找到的。

1. batch size 太大了。（最大可能问题）
2. cude和cudnn版本之间冲突。（很少见，一般都可以，我给一个可行版本，我的是cude11，cudnn8）
3. amp(fp16) 和 tf32 的选择问题。（我遇到的就是这个，这个其实是这个报错的本来含义emmmm）

解决方案

选一个执行即可，第二个大概率不用（作为最后方案）

1. batch size 设置的小一点
2. 重装cuda或者cudnn
3. 将fp16设置为tf32