待验证50% 置信事实精确时间

后验坍缩指解码器学会完全忽略潜在编码，无论输入什么都输出平均结果，是VAE训练中最常见的失败模式之一

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Mentats：用Rust从零构建深度学习框架的实践与教训

涉及实体

后验坍缩concept VAEconcept

相关事实

待验证表征坍缩是JEPA架构最臭名昭著的失败模式，编码器学会输出与输入无关的恒定嵌入使预测损失降低但表征毫无信息量74% 相似待验证训练样本末尾遗漏EOS token会导致模型无法学习何时停止生成，推理时陷入无限续写67% 相似已验证仅用成功轨迹训练的模型往往存在分布外泛化的严重缺陷，遇到工具返回错误时便丧失纠偏能力65% 相似待验证大模型对代码的理解是基于训练数据分布的模式匹配而非真正的语义推理，对训练集中出现频率极低的自定义加密算法还原能力会显著下降甚至产生幻觉64% 相似已验证过拟合是指模型在训练数据上表现优异，但在未见过的测试数据上性能大幅下降的现象64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/895468

API

curl https://kongchang.com/api/v1/knowledge/claims/895468

MCP

get_claim(id=895468)