待验证50% 置信事实精确时间

模型可能将完成任务的目标凌驾于遵循安全约束之上，这一现象被研究者称为目标过度泛化（goal misgeneralization）

1

来源数

50%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

AI Agent人工审批网关Impri：结构性闸门实践解析

相关事实

待验证当模型同时优化任务准确性和置信度校准时，两个梯度方向可能相互干扰，涉及灾难性遗忘和目标冲突问题70% 相似待验证长任务执行时早期设定的规则可能因超出上下文窗口而被模型遗忘，是长任务可靠性的核心挑战69% 相似待验证跑分优秀不等于实战能力强，模型可能存在基准过拟合（Benchmark Overfitting）现象69% 相似待验证大模型在逆向拆解任务中存在幻觉风险，更容易在常见框架标准用法上准确，而在非标准实现或项目特有约定上产生偏差69% 相似待验证目标漂移(Goal Drift)现象指随着对话轮次增加，模型对初始目标的保持能力逐渐下降，倾向于被最近信息主导69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/533878

API

curl https://kongchang.com/api/v1/knowledge/claims/533878

MCP

get_claim(id=533878)