Unverified60% confidenceFactExact time
LLM 在预训练阶段通过最大似然估计优化 token 预测概率，缺乏「知道自己不知道」的内在机制，置信度与准确性之间没有必然关联
2
Sources
60%
Confidence
Long-term
Relevance
7/12/2026
First Seen
Sources
AI垃圾代码泛滥：团队如何应对「氛围编程」危机
redditr/cursor7/11/2026
Related Claims
Unverified对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效75% similarUnverified小模型通过知识蒸馏通常比直接在标注数据上训练精度高出2-5个百分点73% similarUnverified当前主流 LLM 采用指令遵循（Instruction Following）训练方式，会用概率最高的方式补全输出72% similarUnverified诊断训练瓶颈的核心效率差异来自于是否提前建立了性能基线（baseline），如已知模型健康状态下的MFU则可快速发现偏离71% similarUnverified主动学习策略将有限的人工标注资源集中分配给模型最不确定的样本，兼顾准确率提升与人力最优化69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/491024API
curl https://kongchang.com/api/v1/knowledge/claims/491024MCP
get_claim(id=491024)