文章目录
- ❌AssertionError: Torch not compiled with CUDA enabled
- 问题描述
- 问题分析
- 解决方案
- 总结
- 参考文献
❌AssertionError: Torch not compiled with CUDA enabled
问题描述
python demo/image_demo.py demo/demo.png configs/pspnet/pspnet_r50-d8_4xb2-40k_cityscapes-512x1024.py pspnet_r50-d8_512x1024_40k_cityscapes_20200605_003338-2966598c.pth --device cuda:0 --out-fil
e result.jpg
当我使用上面命令来验证推理 demo 时，发生了 AssertionError: Torch not compiled with CUDA enabled 错误。
问题分析
这个错误是因为您在尝试使用PyTorch的CUDA功能时，但是PyTorch没有被编译为启用CUDA。为了解决这个问题，您需要重新编译PyTorch，以确保它包含启用CUDA的支持。
解决方案
安装了适当的CUDA工具包和驱动程序。
Tip：不要急着下载，把这篇文章看完再去下载。
官方安装教程问题地址：https://docs.nvidia.com/cuda/archive/11.6.0/cuda-installation-guide-microsoft-windows/index.html。
To use CUDA on your system, you will need the following installed:
- A CUDA-capable GPU
- A supported version of Microsoft Windows
- A supported version of Microsoft Visual Studio
- The NVIDIA CUDA Toolkit (available at http://developer.nvidia.com/cuda-downloads)
-
确定显卡支持的CUDA版本
使用命令
nvidia-smi.exe查看显卡支持的最高CUDA版本。PS C:\Users\19095> nvidia-smi.exe Sun May 7 10:00:36 2023 +-----------------------------------------------------------------------------+ | NVIDIA-SMI 462.30 Driver Version: 462.30 CUDA Version: 11.2 | |-------------------------------+----------------------+----------------------+ | GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |===============================+======================+======================| | 0 GeForce GTX 1650 WDDM | 00000000:01:00.0 Off | N/A | | N/A 46C P8 2W / N/A | 255MiB / 4096MiB | 1% Default | | | | N/A | +-------------------------------+----------------------+----------------------+ -
下载和安装 NVIDIA CUDA Toolkit
NVIDIA CUDA Toolkit 下载地址：https://developer.nvidia.com/cuda-downloads
-
配置环境并检查运行
使用nvcc -V来检查是否安装成功，如果使用不了，你需要去配置一下环境，这个步骤太简单了，大家自行摸索吧。PS C:\Users\19095> nvcc -V nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2023 NVIDIA Corporation Built on Mon_Apr__3_17:36:15_Pacific_Daylight_Time_2023 Cuda compilation tools, release 12.1, V12.1.105 Build cuda_12.1.r12.1/compiler.32688072_0
下载好了并且成功安装了 CUDA ，但是运行项目发现还是显示没有安装成功。
原来是驱动版本要求高了，只有重新下载另外一个了。
然后我信心满满地以为可以了，运行项目后，我得天呀，它有报错。原来是CUDA 11.2没有对应的PyTorch 版本需要自己去编译，开什么玩笑，又白搞了。
于是我根据查的资料，重新下了一个 CUDA 11.1 版本的，这也就可以使用 PyTorch。需要注意的是，必须等 CUDA 11.1 安装后了，才能去安装PyTorch。
PyTorch 下载地址：https://pytorch.org/get-started/previous-versions/
总结
CUDA的版本不仅和系统有关，还需要注意PyTorch是否有对应的版本，如果没有你就可以通过降低CUDA的版本来适应PyTorch，从而保证自己可以不要去编译，并且必须要等 CUDA 安装后，才能安装 PyTorch，不然找不到 PyTorch 的CUDA编译版本。
参考文献
- CUDA Installation Guide for Microsoft Windows：https://docs.nvidia.com/cuda/archive/11.6.0/cuda-installation-guide-microsoft-windows/index.html
- CUDA安装及环境配置——最新详细版：https://blog.csdn.net/chen565884393/article/details/127905428
- CUDA driver version is insufficient for CUDA runtime version：https://blog.csdn.net/qq_25033587/article/details/90301671
- PyTorch GPU install with 11.2 CUDA：https://stackoverflow.com/questions/70396187/pytorch-gpu-install-with-11-2-cuda
