待验证50% 置信事实精确时间
百度的 UnlimitedOcr 是一个 3B 参数的 OCR 模型,上下文长度 32,768 tokens,基于 DeepSeek OCR 构建,用 Reference Sliding Window Attention (R-SWA) 替换所有解码器注意力层,使 KV cache 保持恒定,可在单次前向传播中转写数十页。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
涉及实体
相关事实
待验证Reference Sliding Window Attention (R-SWA) 在滑动窗口基础上引入固定参考位置,使 KV cache 在解码过程中保持恒定大小,同时不牺牲跨页上下文一致性。68% 相似待验证O_DIRECT 是 Linux 的文件打开标志,可绕过页缓存,直接将数据从磁盘传输到用户空间缓冲区,从而让程序完全掌控内存使用并避免双重拷贝开销。64% 相似已验证提示词缓存通过在服务器端保存已计算的 KV 矩阵,将重复前缀的处理从 O(n²) 降低至 O(1) 的缓存读取,可实现高达90%的延迟和成本压缩64% 相似待验证缓存命中率在大模型API调用场景中指KV Cache(键值缓存)的复用比例,模型可直接从缓存中读取已处理token的注意力键值对63% 相似待验证KV Cache内存占用与层数×注意力头数×上下文长度×精度成正比,GQA通过让多个查询头共享同一组Key-Value头来减少缓存量,Llama 2/3和Qwen系列已采用此设计63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1039066API
curl https://kongchang.com/api/v1/knowledge/claims/1039066MCP
get_claim(id=1039066)