待验证60% 置信事实精确时间

LLM 在预训练阶段通过最大似然估计优化 token 预测概率，缺乏「知道自己不知道」的内在机制，置信度与准确性之间没有必然关联

2

来源数

60%

置信度

长期有效

时效性

2026/7/12

首次发现

来源

AI垃圾代码泛滥：团队如何应对「氛围编程」危机

redditr/cursor2026/7/11

相关事实

已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效75% 相似待验证小模型通过知识蒸馏通常比直接在标注数据上训练精度高出2-5个百分点73% 相似待验证传统线性探针以最大化概念分类精度为训练目标，不区分方向是否具有因果影响力72% 相似待验证当前主流 LLM 采用指令遵循（Instruction Following）训练方式，会用概率最高的方式补全输出72% 相似待验证后训练阶段的强化学习能在分布内和分布外任务上提升解答准确率，但并不能持续改善推理轨迹的有效性72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/491024

API

curl https://kongchang.com/api/v1/knowledge/claims/491024

MCP

get_claim(id=491024)