待验证50% 置信事实精确时间
数据处理不等式保证了从数据空间分布到参数空间分布的前推测度不会增加相对熵，参数空间后验与先验之间的KL散度被数据空间DP先验与后验之间的KL散度所控制。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
告别参数量依赖：Dirichlet过程实现深度网络无维度PAC-Bayes泛化界
rss2026/10/15
涉及实体
相关事实
待验证每增加一条有效约束等价于在模型的输出概率分布上施加一个条件概率过滤器，将生成空间收窄为符合约束的子集69% 相似已验证交叉熵损失起源于信息论中的KL散度，衡量真实概率分布与预测概率分布之间的差异程度68% 相似待验证概率数据结构的内存占用不随数据量线性增长，而是被压缩到固定或缓慢增长的规模，代价是引入可量化、可控制的误差67% 相似待验证在有限样本下估计互信息与条件熵极具挑战：高维连续变量的熵估计存在系统性偏差，常用的 k 近邻估计器（如 Kraskov 估计）在隐藏状态维度较高或序列相关性很强时仍不稳定。67% 相似待验证数据空间DP散度的闭式计算的数值稳定性在更大规模问题中有待检验。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1046143API
curl https://kongchang.com/api/v1/knowledge/claims/1046143MCP
get_claim(id=1046143)