待验证50% 置信事实精确时间

设置180K上下文时应在80%-90%才触发压缩，但实际跑到20%-30%就异常压缩，导致推理成果丢失形成死循环

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/10

首次发现

有效期至：2027/1/8

来源

本地单卡748 token/s：Bonsai2+Ninfer+KVMem极值实践

涉及实体

相关事实

待验证DistilBERT将参数量压缩至6600万（原版1.1亿），推理速度提升60%，精度损失不足3%70% 相似待验证对于稀疏度达到90%的投影矩阵，理论上可将推理计算量压缩至原始的十分之一69% 相似待验证DistilBERT将BERT-base从110M参数压缩至66M,推理速度提升60%,保留97%性能68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/995012

API

curl https://kongchang.com/api/v1/knowledge/claims/995012

MCP

get_claim(id=995012)