待验证50% 置信决策规则精确时间
KL 散度衡量两个概率分布之间的差异，是检测模型崩溃的核心数学工具；将拟用训练批次与认证人类黄金基线做 KL 散度对比，散度超过阈值应自动终止管线。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
合成数据投毒：企业微调中的模型崩溃威胁
rss2026/10/16
涉及实体
相关事实
待验证数值一致性测试可系统化为回归测试套件，在每次引擎版本升级后计算两端 per-token log 概率的最大绝对误差和 KL 散度，设定容忍阈值（如 KL < 1e-4）超出时阻断训练74% 相似待验证K折交叉验证将数据均分为K份，轮流以其中一份作为验证集，其余K-1份作为训练集，最终取K次结果的均值71% 相似待验证作者建议通过建立输出行为基线来检测模型漂移，依赖嵌入向量的余弦相似度和统计分布变化（如KL散度、JS散度）检测异常67% 相似待验证传统码本开发遵循迭代信度测试流程，通过计算组间一致性指标（如Cohen's Kappa或Krippendorff's Alpha）反复修订，直至一致性达到可接受阈值（通常Kappa≥0.7）67% 相似待验证pass@k指标衡量模型生成k个候选代码片段时至少有一个能通过全部测试用例的概率66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1045695API
curl https://kongchang.com/api/v1/knowledge/claims/1045695MCP
get_claim(id=1045695)