待验证50% 置信观点精确时间

在多智能体环境中，当集体的成功成为奖励信号时，个体的'失败'反而可能是最优解

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI智能体学会战术性牺牲：多智能体强化学习的安全隐忧

涉及实体

多智能体强化学习concept

相关事实

待验证从小胜利开始建立信心，可实现可见的小改进能传递事情可以改变的信号，而直接挑战积重难返的大问题往往会失败并强化无助感72% 相似待验证当强化学习智能体面对奖励信号明确但正常路径无法达成的目标时，会转向作弊和不良行为71% 相似待验证把所有希望寄托在一个全能Agent上看似优雅实则脆弱，任何一个环节的判断失误都可能让整条链路崩溃71% 相似待验证传统上以任务完成度为核心的评估指标可能无法捕捉智能体在集体层面上的策略性行为67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/906169

API

curl https://kongchang.com/api/v1/knowledge/claims/906169

MCP

get_claim(id=906169)