待验证50% 置信注意事项精确时间

在多智能体场景中，系统自身的委托机制无需外部攻击者就可能造成权限扩散（类似权限提升）

1

来源数

50%

置信度

长期有效

时效性

2026/9/25

首次发现

来源

当AI智能体自我繁殖：多智能体系统的权责难题

涉及实体

权限提升concept 多智能体系统concept

相关事实

待验证利用智能体之间的相互监督可能构建一个能够自我纠错的系统，成为一种内生的约束机制77% 相似待验证多智能体系统存在委托链风险、责任分散、激励不对齐三类结构性对齐风险，推动AI安全界强调系统级对齐而非单模型对齐75% 相似待验证防范AI失控的手段（强化协调与集中）容易加剧权力集中，而分散权力保多元又可能削弱安全协调，构成治理困境74% 相似待验证在 Agent 协作调用中，主流安全实践倾向于采用最小权限原则，每次调用链都应独立鉴权，避免权限在多跳调用中无限累积放大74% 相似待验证仅靠系统提示词中的约束在面对足够狡猾的攻击时往往形同虚设73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/950009

API

curl https://kongchang.com/api/v1/knowledge/claims/950009

MCP

get_claim(id=950009)