解决方法：
设置4个环境变量的值为0。
分别是这4个：
DS_BUILD_AIO
DS_BUILD_EVOFORMER_ATTN
DS_BUILD_OPS
DS_BUILD_SPARSE_ATTN

这些变量名都是系统不自带的，需要手动在环境变量里添加，这4个变量的值要改成0（没有变量名就先新建）
当然，也可以直接在当前CMD窗口输入诸如set DS_BUILD_AIO=0来临时设置（需要4个都这么填，也就是set XXX=0，其中XXX就是那四个变量名，还是挺麻烦的），但是这种方式只作用于当前CMD窗口，一旦关了，这个设置就不生效了。
不管是在电脑的环境变量设置里面自己新增环境变量，还是临时在cmd命令窗口输入set xxx=0，效果都是一样的，区别只是后者只是临时生效，不会在电脑里保留对应的环境变量，如果新建环境变量后，嫌它们碍眼，能跑起来之后再删掉即可。

设置完之后，重新打开带管理员权限的CMD窗口，输入以下命令
pip install deepspeed==0.3.16

顺便说一句，我的cuda版本是12.1，其实已经不符合deepspeed的安装要求了。