待验证50% 置信事实精确时间
对于平稳遍历过程，熵率极限存在且等于条件熵极限 lim H(X_n|X_{n-1},...,X_1)
1
来源数
50%
置信度
长期有效
时效性
2026/8/6
首次发现
来源
相关事实
待验证跨分词器蒸馏前应先测量熵保留率或概率质量对齐度以避免在错误目标上浪费算力64% 相似待验证如果交叉熵稳步下降而Dice波动剧烈，问题几乎可以确定出在Dice损失的配置上63% 相似待验证逻辑回归中的交叉熵损失如果直接对 log(0) 求值会产生负无穷，需要加入极小的 epsilon 值或使用 log-sum-exp 技巧61% 相似待验证从信息论角度，DSL约束的本质是降低了输出分布的熵，一个等概率的N选1分布熵值为log₂N60% 相似待验证Scaling Laws发现语言模型交叉熵损失与参数量N、数据集大小D、计算量C存在幂律关系，约为L ∝ N^(-0.076)、L ∝ D^(-0.095)、L ∝ C^(-0.050)59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/698768API
curl https://kongchang.com/api/v1/knowledge/claims/698768MCP
get_claim(id=698768)