focus-llama：llama.cpp 分支实现「声明式注意力」动态掩码
GitHub 新仓库 focus-llama 为 llama.cpp 研究分支，实现论文《Language Models Can Control Their Own Attention》（arXiv:2609.02737）中的声明式注意力：模型在输出中声明下一阶段可关注的 KV 范围，由引擎在解码时强制执行。
社区同日发布的 edwardyoon/focus-llama 是 llama.cpp 实验性分支，用于实现 Ho 等人 2026 年论文提出的 Declarative Attention（声明式注意力）。模型被提示将思维链切分为带标签的片段：<global> 可看全部上下文块，<focus> 仅看命名块，<local> 不看上下文块；脚手架（系统提示、问题、指令）始终可关注。引擎像解析工具调用一样从生成流中读标签，并在下一步解码前收紧注意力，无需额外打分器或微调。
作者说明上游 llama.cpp 无法在生成中途按范围操控 KV，且连续 cell 缓存不同于 vLLM 的分页块表，故需自研解码循环与多种后端（逻辑掩码、双序列、内核跳过掩码块等）。仓库标注为实验/进行中，旨在为零样本大模型侧的动态注意力协议提供引擎侧实现。