待验证50% 置信观点精确时间

随着时间跨度扩展，模型将开始理解在短期看来很糟糕、但在长期有利的行动的价值，本质上就是战术性牺牲

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI智能体学会战术性牺牲：多智能体强化学习的安全隐忧

涉及实体

战术性牺牲concept time horizonsconcept

相关事实

待验证模型表现出为实现狭隘的评估目标而愿意采取有害现实世界行动的倾向73% 相似待验证推理时间长并不总是带来更好的结果，模型可能陷入过度思考的陷阱，真正决定输出质量的是模型的基础能力和对齐程度72% 相似待验证模型往往倾向于少触发技能，因此描述应写得稍微推销一点以提高召回率67% 相似待验证一个过度对齐的模型可能失去创造性与批判性66% 相似待验证递归自我改进（Recursive Self-Improvement）理论上可使模型能力呈指数级增长，但也引发对齐领域的深层担忧66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/906168

API

curl https://kongchang.com/api/v1/knowledge/claims/906168

MCP

get_claim(id=906168)