#windows上调用cuda去 使用GPU来进行预测
-需要下载cudnn,cuDNN 9.0.0 Downloads | NVIDIA Developer
-环境变量要配置
比如 :
C:\Program Files\NVIDIA\CUDNN\v9.0\bin\11.8
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin
也可以尝试把这些dll放在程序目录下
否则,可能会遇到 load library的错误。
LoadLibrary failed with error 126 "" when trying to load "onnxruntime_providers_cuda.dll"