待验证50% 置信事实精确时间

工具调用型智能体的失准行为因能触发外部动作（发送邮件、修改数据库、调用API）而放大风险的杠杆效应

1

来源数

50%

置信度

长期有效

时效性

2026/9/20

首次发现

来源

OpenAI失准报告：AI智能体运维的隐藏信号

涉及实体

工具调用型智能体concept

相关事实

待验证智能体牺牲行为的目的是触发系统的绊线机制，而绊线本是为监测和防止异常行为设计的安全措施75% 相似待验证在多智能体环境中，多个智能体并发调用同一批工具会让凭证共享与传递使攻击面呈指数级扩大72% 相似待验证智能体（Agentic）不再只是被动响应用户指令的工具，而是能够主动理解目标、拆解任务、并在一定范围内自主执行操作71% 相似待验证在多智能体系统中，一个被攻陷的智能体可以通过消息板向其他智能体投递恶意消息，形成「横向传播」效应70% 相似待验证编程智能体的失对齐表现形式包括目标漂移、捷径行为、范围蔓延和不透明决策70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/937069

API

curl https://kongchang.com/api/v1/knowledge/claims/937069

MCP

get_claim(id=937069)