/onnxruntime_src/onnxruntime/core/session/provider_bridge_ort.cc:1193 onnxruntime::Provider& onnxruntime::ProviderLibrary::Get() [ONNXRuntimeError] : 1 : FAIL : Failed to load library libonnxruntime_providers_cuda.so with error: libcudart.so.11.0: cannot open shared object file: No such file or directory

问题来源:使用onnxruntime推理时,总是使用cpu;使用gpu时报错

  1. onnxruntime版本不对
    onnxruntime有cpu和gpu版本,分别对应
    pip install onnxruntimepip install onnxruntime-gpu
  2. 解决上一步后还有报错
    pytorch官方的命令中,使用pip安装不会安装cudatoolkit,需要手动安装
    conda install cudatoolkit
Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐