SR-SWA
一种注意力机制变体，结合滑动窗口注意力，使长序列解码时每步计算开销保持恒定，避免随上下文长度增长。
时间轴 (近 90 天)
Unlimited OCR 2 采用 SR-SWA 注意力机制，使每步解码开销几乎保持恒定
SR-SWA 的具体实现细节、显存占用曲线或不同页数下的延迟数据未在原始素材中披露
Unlimited OCR 2的SR-SWA在滑动窗口基础上引入参考集机制，使文本与视觉信息能够跨窗口交互，避免纯滑动窗口遗忘远处信息的问题。
Unlimited OCR 2的核心创新是稀疏参考滑动窗口注意力（SR-SWA），将文本-视觉注意力交互压缩到固定大小的参考集（例如512个token）。
官方提到的512 token参考集是一个示例值，实际部署中的配置空间和调优策略尚未披露。
SR-SWA在真实复杂文档上的鲁棒性、对版面多样性的适应能力，以及固定参考集是否会在极长文档中丢失关键细节，均需后续验证。
SR-SWA使每步解码延迟和内存占用几乎不随文档长度增长。
全部知识事实 (7)
Unlimited OCR 2 采用 SR-SWA 注意力机制，使每步解码开销几乎保持恒定
50%待验证SR-SWA 的具体实现细节、显存占用曲线或不同页数下的延迟数据未在原始素材中披露
50%待验证Unlimited OCR 2的SR-SWA在滑动窗口基础上引入参考集机制，使文本与视觉信息能够跨窗口交互，避免纯滑动窗口遗忘远处信息的问题。
50%待验证Unlimited OCR 2的核心创新是稀疏参考滑动窗口注意力（SR-SWA），将文本-视觉注意力交互压缩到固定大小的参考集（例如512个token）。
50%待验证官方提到的512 token参考集是一个示例值，实际部署中的配置空间和调优策略尚未披露。
50%待验证SR-SWA在真实复杂文档上的鲁棒性、对版面多样性的适应能力，以及固定参考集是否会在极长文档中丢失关键细节，均需后续验证。
50%待验证SR-SWA使每步解码延迟和内存占用几乎不随文档长度增长。
50%