待验证70% 置信事实精确时间

AI系统引入了全新的安全风险维度，包括模型幻觉导致的错误决策、提示注入攻击（Prompt Injection）、训练数据投毒、以及AI代理权限滥用等

2

来源数

70%

置信度

长期有效

时效性

2026/5/27

首次发现

来源

思科联手OpenAI Codex：企业级AI工程开发的三大核心场景

rss2026/5/27

涉及实体

Prompt Injectionconcept

相关事实

已验证AI代理操控计算机面临的安全风险包括提示注入攻击、权限升级和不可逆操作等问题83% 相似待验证AI桌面代理面临的核心安全风险包括提示注入攻击、权限升级风险和不可逆操作风险80% 相似待验证AI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险78% 相似待验证灾难性风险团队通常评估AI辅助生物武器设计、AI增强网络攻击、大规模虚假信息运动和AI失控等场景78% 相似待验证AI Agent生产安全的核心工程哲学是将AI的输出视为不可信的外部输入来处理，类似Web安全领域永远不信任用户输入的理念77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/2193

API

curl https://kongchang.com/api/v1/knowledge/claims/2193

MCP

get_claim(id=2193)