待验证50% 置信事实精确时间

错误率下界的第一项(M/N)δ*(B/M)描述模型已见过但因记忆受限而存储不准确的事实的压缩失真

1

来源数

50%

置信度

长期有效

时效性

2026/9/14

首次发现

来源

压缩的代价：事实幻觉背后的率失真极限

涉及实体

coverage–compression modelconcept

相关事实

待验证实验通过系统改变事实负载M和有效可训练记忆B，验证了压缩失真项是独立于覆盖率的可观测失效模式71% 相似待验证如果参数量充足的模型连几十个样本都无法记住，几乎可以断定存在硬性错误，如标签错位、损失函数计算错误、梯度未正确回传等71% 相似待验证错误率下界的第二项(1-M/N)(1-1/K)对应传统覆盖率问题，即训练中未出现过的事实模型只能瞎猜，猜中概率为1/K70% 相似待验证传统 LLM 推理中因序列长度不可预知导致显存碎片与浪费，实测中高达60%～80%的显存可能被低效占用69% 相似待验证该论文将率失真理论引入幻觉分析，指出即使数据完美，比特不够也会导致记忆错乱66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/919748

API

curl https://kongchang.com/api/v1/knowledge/claims/919748

MCP

get_claim(id=919748)