待验证50% 置信基准精确时间
在一个不重叠的验证切片上，Continuum Attention 相比最强的 softmax 基线（经过筛选的版本）获得了 0.0457 nats/byte 的优势，并附有配对 95% 置信区间。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
Continuum Attention：连续注意力机制挑战Softmax
rss2026/10/14
涉及实体
相关事实
待验证SHADOW将注意力状态以1-bit精度写到磁盘，每token占288字节，索引每token仅22字节，查询约1微秒定位记录，注意力状态约0.03ms回灌进模型，不用向量数据库或embedding模型71% 相似待验证BitNet探索的极端量化（如2-bit或1.58-bit三值量化）在某些场景下也能保持较好性能63% 相似待验证AttSVD在多个模型和基准测试上实现了最多仅用50%的KV缓存内存却保持与完整稠密缓存相当的精度63% 相似待验证在基准测试中，LightGBM/HGB 达到 100.0% 总体准确率、0.11 ms CPU 延迟、0.0% 步频误报，但需要调参学习率、迭代次数、正则化。62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037968API
curl https://kongchang.com/api/v1/knowledge/claims/1037968MCP
get_claim(id=1037968)