待验证50% 置信预测精确时间

若广泛采用对遗漏视而不见的LLM裁判来打分、做基准测试或指导模型训练（如RLHF、RLAIF），整个优化循环可能被误导，模型会学会生成看起来完整实则残缺的内容

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

LLM裁判的遗漏盲区：擅长查错却难以发现信息缺失

涉及实体

RLHFconcept RLAIFconcept

相关事实

待验证模型在未收到明确指令时输出图片，意味着系统提示词设计或RLHF训练中存在激励偏差79% 相似待验证LLM在训练数据覆盖不足的场景下，会基于统计模式生成看似合理但可能错误的输出，而非承认不确定性78% 相似待验证调试模型不收敛的系统化流程是先在极小数据子集上验证模型能否过拟合，如果连小数据都无法过拟合说明模型或训练代码存在bug78% 相似待验证RLHF训练导致模型产生'sycophancy'（谄媚性），即模型宁可编造也不愿承认无知77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/909756

API

curl https://kongchang.com/api/v1/knowledge/claims/909756

MCP

get_claim(id=909756)