1、避免在矿潮期间购置价格高昂的显卡。同样，在矿难后避免买到翻新矿卡

2、尽量避免使用笔记本进行深度学习训练，同种显卡型号下台式机和笔记本会有明显差距

3、总体最好的 GPU:RTX 4090 和 RTX 6000 Ada。

4、对于个人用户而言避免使用的 GPU： 任何 Tesla 卡；任何专业绘图显卡（如Quadro 卡）；任何 Founders Edition 卡；Titan RTX、Titan V、Titan XP，除此之外无Tensor Core（rtx20系显卡之前）的二手消费级显卡需要斟酌。

5、颇具成本效益而价格高昂：RTX6000 Ada

6、颇具成本效益而价格较便宜：RTX 4090

7、计算机视觉（CV）、预训练或机器翻译研究人员：4路RTX4090（推荐涡轮显卡）。注意配备相应的大功率电源以及扇热设备

8、自然语言处理（NLP） 研究人员： 如果不从事机器翻译、语言建模或任何类型的预训练工作，那么 RTX 4080 就足够了而且颇具性价比。

10、相关专业学生/从业者： 从一块 RTX 4070 开始。进一步学习，卖掉你的 RTX 4070，并购买多路RTX 4090。根据下一步选择的领域（初创公司、Kaggle、研究、深度学习应用），卖掉你的 GPU，三年后再买更合适的（下一代 RTX GPU）。

11、用于模型并行化的、少于 128 个 GPU 的 GPU 集群： 如果你可以为你的集群购买 RTX GPU：66% 的 8路RTX 4080 和 33% 的 8路RTX 4090（要确保能有效地冷却）。如果解决不了 RTX 4090 的冷却问题，那么可以购买 33% 的 RTX 6000 GPU 或 8路Tesla A100。如果不能购买 RTX GPU，那么可能会选择 8路A100 Supermicro 节点或 8路RTX 6000 节点。

12、用于模型并行化的、128 个 GPU 的 GPU 集群： 考虑下 8路Tesla A100 设置。如果你使用超过 512 个 GPU，那么你应该考虑配置一个 DGX A100 SuperPOD 系统，以匹配你的规模。

来源：CSDN博主「Redflashing」的原创文章