1.我在多卡训练模型时报如下错误:

    RuntimeError: [enforce fail at /pytorch/third_party/gloo/gloo/transport/tcp/device.cc:127] rp != nullptr. Unable to find address for: my_username
提示我找不到 my_username地址。

2. 解决问题
      在训练模型之前,先设置一下环境变量,即声明一下地址:

      export GLOO_SOCKET_IFNAME=lo

3. 补充
     如果多卡训练时出现卡顿,用下面的方法解决:

     分布式训练前,终端先执行:export NCCL_SOCKET_IFNAME=lo
 

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐