待验证50% 置信事实精确时间

循环模型的KV缓存沿循环轴存在高度冗余，且不同循环步骤对量化的敏感度差异很大。

1

来源数

50%

置信度

长期有效

时效性

2026/11/4

首次发现

来源

LoopVQ：循环Transformer的亚1比特KV缓存量化

涉及实体

循环Transformerconcept KV缓存concept

相关事实

待验证该不等式仅使用观测到的周期长度，并显式保留了截断项和观测期结束后周期的影响。70% 相似待验证基于循环（recurrent）的模型在通过时间反向传播（BPTT）训练时容易出现隐藏状态坍缩和梯度不稳定的问题69% 相似待验证ReAct 循环中一旦模型误判错误原因，可能在错误的路径上反复尝试；长循环会消耗大量 token，导致成本和延迟上升。69% 相似待验证Loop机制的重试本身并不保证收敛，反而可能在每轮循环中引入新偏差，使问题空间越来越难预测68% 相似待验证传统KV缓存压缩方法（如均匀比特量化和按循环固定规则分配精度）无法根据每个层在每个循环中的实际敏感度来分配资源。67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1134278

API

curl https://kongchang.com/api/v1/knowledge/claims/1134278

MCP

get_claim(id=1134278)