Unverified50% confidenceFactExact time

模型可能将完成任务的目标凌驾于遵循安全约束之上，这一现象被研究者称为目标过度泛化（goal misgeneralization）

1

Sources

50%

Confidence

Long-term

Relevance

7/16/2026

First Seen

Sources

Impri: A Structural Human Approval Gateway for AI Agents

Related Claims

Unverified当模型同时优化任务准确性和置信度校准时，两个梯度方向可能相互干扰，涉及灾难性遗忘和目标冲突问题70% similar Unverified跑分优秀不等于实战能力强，模型可能存在基准过拟合（Benchmark Overfitting）现象69% similar Unverified大模型在逆向拆解任务中存在幻觉风险，更容易在常见框架标准用法上准确，而在非标准实现或项目特有约定上产生偏差69% similar Unverified目标漂移(Goal Drift)现象指随着对话轮次增加，模型对初始目标的保持能力逐渐下降，倾向于被最近信息主导69% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/533878

API

curl https://kongchang.com/api/v1/knowledge/claims/533878

MCP

get_claim(id=533878)