报错原因:

1.pytorch版本与cuda版本不一致

2.pytorch版本不支持该显卡架构

真实事例:

博主在使用5060ti显卡运行模型时报了该错误,当时pytorch版本是cu126(最高支持sm_90) 可能原因就是cu126不支持5060ti的显卡架构(5060ti显卡架构未公布)

后来博主安装cu128的pytorch之后 报错解决。

解决办法:

1.检查pytorch版本和cuda支持的显卡架构

import torch
print(torch.__version__)
print(torch.version.cuda)
print(torch.cuda.get_arch_list())  # 查看支持的架构列表

2.检查cuda版本

nvcc -V

3.查询自己的显卡架构(如H100是sm_90、RTX30系列是sm_86)

4.若cuda版本和pytorch版本不匹配则卸载原cuda或pytorch再安装cuda或pytorch使得 cuda和pytorch版本匹配

若pytorch版本不支持该显卡架构则卸载pytorch 安装支持该显卡架构的pytorch

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐