Unverified50% confidenceFactExact time
从信息论和香农定理角度看，任何超过信息熵下界的压缩都必然丢失信息，因此无论模型多大，压缩必然是有损的
1
Sources
50%
Confidence
Long-term
Relevance
7/15/2026
First Seen
Sources
Related Claims
Unverified任何压缩都伴随信息损失，确定性折叠在压缩率与信息保真度之间取得平衡是最核心的技术难点80% similarUnverified信息论先驱香农指出任何信道容量都存在上限，当信源信息熵超过信道容量时信息损失不可避免78% similarUnverified推理能力可通过知识蒸馏和强化学习微调压缩，但事实性知识的存储依赖参数规模，压缩会导致知识覆盖面下降和幻觉率上升78% similarUnverified过度压缩会丢失细节，压缩不足则无济于事，是滚动摘要策略的核心权衡75% similarUnverified香农提出的信息熵概念表明低概率事件携带更高的信息量74% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/517741API
curl https://kongchang.com/api/v1/knowledge/claims/517741MCP
get_claim(id=517741)