待验证50% 置信决策规则精确时间
在Dreamer V1中,KL散度项用于约束后验分布q(z_t|h_t,o_t)与先验分布p(z_t|h_t)之间的距离;若KL权重过大,后验被迫趋近先验导致潜变量丢失观测信息(信息丢失),若权重过小则转移模型无法从先验生成有意义的想象轨迹(后验崩溃)。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证在Dreamer复现实践中,潜在状态的随机分量需要恰当的KL约束,过强会丢失信息,过弱则导致后验崩溃;想象轨迹长度与批次大小共同决定梯度质量,两者都需要根据任务调整。77% 相似部分验证KL散度D(p,q)描述当使用错误的分布q来编码实际服从分布p的数据时,相比使用正确分布p会浪费多少额外比特69% 相似待验证从KL散度角度看,每一代合成数据与真实分布之间的散度都在单调递增,且误差会在迭代中累积68% 相似待验证量化误差具有非均匀分布特性,注意力机制的Q/K/V矩阵和最后几层对量化更为敏感66% 相似待验证该测试采用KL散度(KLD)作为客观量化指标,衡量量化后输出分布与BF16参考分布的偏离程度,KLD越低说明量化造成的信息损失越小66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1011063API
curl https://kongchang.com/api/v1/knowledge/claims/1011063MCP
get_claim(id=1011063)