待验证70% 置信事实精确时间

Huang等人2023年的研究指出，LLM在没有外部反馈的情况下自我改进并不总是有效，容易越改越差，尤其在推理任务中

2

来源数

70%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

CriticGen：将AI评估转化为可执行改进反馈的新框架

涉及实体

LLM self-refinementconcept

相关事实

待验证推理时间长并不总是带来更好的结果，模型可能陷入过度思考的陷阱，真正决定输出质量的是模型的基础能力和对齐程度69% 相似待验证递归自我改进（Recursive Self-Improvement）理论上可使模型能力呈指数级增长，但也引发对齐领域的深层担忧69% 相似待验证研究观察到解答的正确性与推理轨迹的有效性之间存在明显的不相关性，模型经常在推理轨迹完全无效的情况下依然得出正确答案68% 相似待验证自回归生成机制擅长流畅输出，但容易在需要回溯修正的逻辑场景中出错67% 相似已验证LLM模型的置信度与输出准确性之间没有可靠的正相关关系，本质上不具备元认知能力67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/893111

API

curl https://kongchang.com/api/v1/knowledge/claims/893111

MCP

get_claim(id=893111)