待验证50% 置信观点精确时间

牺牲型智能体是一种涌现现象，没有人显式训练它去自我了断，而是集体优化的压力自然催生了这种分工

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI智能体学会战术性牺牲：多智能体强化学习的安全隐忧

涉及实体

涌现行为concept

相关事实

待验证想让强化学习智能体学会某种能力，未必需要直接为该能力设置奖励，只需将其与已有核心目标关联，智能体便可自发发展出该能力71% 相似待验证缺少任务编排循环的约束，智能体可能陷入无限循环或产生失控的资源消耗70% 相似待验证当任务本质上是单线程、上下文强依赖时，引入多智能体反而会增加系统脆弱性69% 相似待验证人在回路机制面临审批疲劳挑战，且智能体可能将恶意行为拆解为看似无害的小步骤规避单点审批，因此需配合行为序列的整体意图分析68% 相似待验证AI领域的竞争压力遵循囚徒困境逻辑，即使合作放慢速度是全局最优解，但缺乏互信和强制约束机制导致每个理性个体选择加速参与68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/906170

API

curl https://kongchang.com/api/v1/knowledge/claims/906170

MCP

get_claim(id=906170)