SolarWM发布长时域视频世界模型方案,支持最长约60分钟连续 rollout
SolarWM论文提出一套视频世界模型训练和数据方案,包含5B至33B模型,并称仅用5秒训练序列即可实现分钟级到小时级连续交互。
SolarWM 论文提出面向长时域视频世界模型的开放数据和可扩展训练方案。项目包含四个5B至33B参数的模型,研究团队来自香港中文大学(深圳)、南洋理工大学、香港科技大学、英伟达、UCLA和微软亚洲研究院等机构。
数据集包含约 142.6万个视频片段,总量约25.85 TB,来自10个源数据集和14个数据集所有者;视频字幕由 Kimi-K2.6 生成。训练方案结合双向相机条件适配、teacher-forced 初始化和因果蒸馏,推理使用4个采样步、16 fps。
作者称,因果模型只用5秒序列训练,也能实现实时交互和分钟级至约60分钟的连续 rollout,不需要长序列微调。论文表示将发布处理后语料、数据管线、训练配方、模型权重及训练/推理框架,项目页已提供代码和数据入口。