待验证90% 置信事实时间未知

当研究者尝试给Video-LLM注入物理知识时，错误合理化反而加剧，模型变得更擅长编造理由解释违规现象

1

来源数

90%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

上交大PhyAR：破解Video-LLM物理推理中的语义先验劫持难题

bilibili多模态实验室

涉及实体

Video-LLMconcept

相关事实

待验证斯坦福大学等机构的研究发现，当提示中包含误导性信息时，模型往往会在思维链中合理化错误答案，而非真实记录其受到干扰的推理过程74% 相似待验证斯坦福大学、DeepMind等机构的研究发现LLM生成的推理步骤与模型内部实际权重激活路径之间存在显著落差68% 相似待验证给模型的每条提示都应思考其可能被善意误解的方式，从而软化措辞使其准确67% 相似待验证微调既能注入有用领域知识，也可能无意中扭曲模型原有正确认知，是一把双刃剑67% 相似待验证多项实验表明，模型的表面推理与其实际决策机制之间存在显著偏差，通过激活修补可发现真正影响输出的内部路径与书面推理不吻合67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/18039

API

curl https://kongchang.com/api/v1/knowledge/claims/18039

MCP

get_claim(id=18039)