AutoDL云服务器复现StarVLA全记录
·
背景
在 AutoDL 云服务器上复现 StarVLA 项目,目标是通过快速检查脚本 QwenGR00T.py 验证环境,为后续训练 Vision-Language-Action 模型做准备。本文记录了从零开始配置环境、下载模型到成功运行的全过程,以及期间遇到的各种问题和解决方案。
环境配置
租用 AutoDL 实例
- 镜像选择:PyTorch 2.1.0(Python 3.10, CUDA 12.1)
- GPU 型号:RTX 4090(24GB 显存)
- 数据盘:挂载 100GB 数据盘
/root/autodl-tmp/,所有代码和数据存放于此。
克隆项目并创建环境
git clone https://github.com/starVLA/starVLA
cd starVLA
conda create -n starVLA python=3.10 -y
conda activate starVLA
pip install -r requirements.txt
安装 FlashAttention
pip install flash-attn==2.7.4.post1 --no-build-isolation
注意:需与 CUDA 12.1 和 PyTorch 2.1.0 版本匹配。
安装项目本身
pip install -e .
模型下载
快速检查脚本需 Qwen3-VL-4B-Instruct 模型,放置于 ./playground/Pretrained_models/Qwen3-VL-4B-Instruct/。
使用 huggingface-cli 下载
pip install huggingface_hub==0.20.0
export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download Qwen/Qwen3-VL-4B-Instruct --local-dir ./playground/Pretrained_models/Qwen3-VL-4B-Instruct --local-dir-use-symlinks False
注意:下载后需升级 huggingface_hub 至新版(≥0.23.0)。
快速检查及遇到的坑
1. 脚本卡在 "waiting for debugger attach"
解决:注释或删除以下代码:
# import debugpy
# debugpy.listen(("0.0.0.0", 10092))
# debugpy.wait_for_client()
或设置环境变量 PYTHONBREAKPOINT=0(仅对 breakpoint() 有效)。
2. 模型路径错误:Repo id must be in the form...
解决:在配置文件中使用绝对路径:
base_vlm: "/root/starVLA/playground/Pretrained_models/Qwen3-VL-4B-Instruct"
3. huggingface_hub 版本冲突
解决:为下载和运行分别创建环境:
conda create -n download python=3.10
conda activate download
pip install huggingface_hub==0.20.0
# 下载完成后切换回 starVLA 环境
conda activate starVLA
pip install huggingface_hub>=0.23.0
4. FlashAttention 导入错误:undefined symbol
解决:重新安装指定版本:
pip uninstall flash-attn -y
pip install flash-attn==2.7.4.post1 --no-build-isolation
5. 数据集路径不存在(非阻塞)
现象:报错 FileNotFoundError: Dataset path ... does not exist。
结论:不影响模型验证,后续训练需下载数据集。
最终验证成功输出
关键输出片段:
Total number of DiT parameters: 157032448
Qwen_GR00T(...)
Action Loss: 1.387640357017517
Unnormalized Action: [[...]]
下一步建议
- 下载 LIBERO 等数据集,开始训练或评估。
- 尝试其他框架脚本(如
QwenOFT.py、QwenPI.py)。 - 如需多卡训练,配置 DeepSpeed。
注意事项总结
- 路径尽量使用绝对路径。
- 严格遵循官方推荐的 flash-attn 版本。
- huggingface_hub 版本需根据任务切换。
- 注释掉调试代码以正常执行。
此记录基于实际操作整理,希望对后续使用者有所帮助。
更多推荐
所有评论(0)