Ai2 详解 GPU 集群「影响力」调度:预算份额与时间切片取代纯优先级
艾伦人工智能研究所介绍其 GPU 调度改造:以层级公平份额与最低运行时长合约替代可随意抬高的优先级,在近满占用下让高影响力研究更稳定拿到算力。
Ai2(艾伦人工智能研究所)基础设施团队发文介绍 GPU 集群调度改革。面对约 150 名内部研究者、需求常为可用 GPU 的 2–3 倍,旧优先级调度出现「占坑」、全员 HIGH、不可抢占任务拖累运维等问题。
新系统把「发 GPU」改为「发 GPU 时间预算」:管理层按研究项目层级分配份额,调度器在滑动窗口上做层级公平份额排序;任务需声明最低受保护运行时长,到期后可自动重排队,从而时间切片并抑制占坑。未占用预算的空闲容量仍可被无分配任务填满。
滚动结果显示团队获得约 98% 应付份额,集群占用率维持约 98%;调试类短任务排队从约 2 小时降至约 30 秒,需人工介入的故障修复下降约 74%。文中也坦承交互式长会话受 8 小时保护上限影响,并计划用旁路 CPU 集群与可恢复会话补齐。