Liquid AI 发布 LFM2.5-VL-DSpark:视觉语言模型投机解码加速
Liquid AI 于 9 月 24 日发布面向 LFM2.5-VL-3B 的实验性 DSpark 草稿模型,以投机解码换速度:端侧解码最高约 3.13 倍、H100 约 2.66 倍,仅增约 2.8 亿参数(约 8.9%),首日支持 llama.cpp、MLX-VLM、SGLang。
Liquid AI 于 2026 年 9 月 24 日在 Hugging Face 博客发布实验性 DSpark 草稿模型,面向视觉语言模型 LFM2.5-VL-3B。与此前文本版 LFM2.5-DSpark 类似,它通过投机解码以较小显存/参数代价换取解码加速,且不改变输出质量(目标模型逐 token 校验)。
实测:端侧解码最高约 3.13 倍,H100 上最高约 2.66 倍;端到端最高分别约 2.62 倍与 2.27 倍。草稿模型约增加 2.8 亿 参数,相对 3B 目标模型约 8.9%。
首日已提供与 LFM 兼容的集成:llama.cpp、MLX-VLM、SGLang。文章亦提醒:投机解码只加速解码阶段,无法加速视觉编码与 prefill;在边缘设备上若这两段占比高,端到端收益会受阿姆达尔定律限制。