PyTorch训练（十）：多卡训练【CUDA_VISIBLE_DEVICES=‘0,2,3‘ python main.py】【前提是代码中已经设置好了DP或DDP训练模式】【训练样本平均分配到各卡】

进行多卡训练时，如果设备batch_size = 6，使用3个GPU，则调试时，会显示batch_size = 2，即分配到一张GPU卡上的样本数量。

u013250861

641人浏览 · 2022-09-08 19:18:57

u013250861 · 2022-09-08 19:18:57 发布

进行多卡训练时，如果设备batch_size = 6，使用3个GPU，则调试时，会显示batch_size = 2，即分配到一张GPU卡上的样本数量。

腾讯云开发者社区

腾讯云面向开发者汇聚海量精品云计算使用和开发经验，营造开放的云计算技术生态圈。

更多推荐

计算机网络微课堂笔记

腾讯云开发者社区

Rabbitmq在java中的使用

腾讯云开发者社区

java try catch 之后定位不到具体报错行_JAVA入门（三）上

点击蓝字｜关注我们一、异常与异常处理异常简介代码中：阻止当前方法或作用域继续实现的，称之为异常java中的所有异常类都继承Throwable类，Exception 的父类是 Throwable编码环境用户操作输入出现问题由java虚拟机自动抛出和自动捕获需要手动添加抛出和捕获语句文件找不到ThrowableErrorException虚拟机错误 VirtualMachineError...