已验证65% 置信事实精确时间

失控智能体（Rogue Agent）特指行为超出预设边界、被恶意劫持或因目标漂移而执行有害操作的AI智能体

3

来源数

65%

置信度

长期有效

时效性

2026/9/23

首次发现

来源

旧网络安全模型正在崩塌：AI原生时代的安全新范式

涉及实体

失控智能体concept

相关事实

待验证Agent链式调用多个技能时，若某个技能被恶意构造或存在漏洞，可能引发提示注入攻击（Prompt Injection）75% 相似已验证Agent（智能体）模式指模型不再是被动响应者，而是主动规划、分步执行的任务代理75% 相似待验证Agent可能因幻觉（Hallucination）或Prompt注入攻击执行远超预期的破坏性操作74% 相似待验证Agent具备主动执行代码和访问外部服务的能力，需防止提示注入（Prompt Injection）攻击和权限越界74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/944717

API

curl https://kongchang.com/api/v1/knowledge/claims/944717

MCP

get_claim(id=944717)