待验证60% 置信事实时间未知

AI桌面代理面临的核心安全风险包括提示注入攻击、权限升级风险和不可逆操作风险

2

来源数

60%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Computer Agent：Rust开源AI桌面代理，自动控制鼠标键盘浏览器

githubsuitedaces

涉及实体

提示注入攻击concept

相关事实

已验证AI代理操控计算机面临的安全风险包括提示注入攻击、权限升级和不可逆操作等问题96% 相似已验证AI系统引入了全新的安全风险维度，包括模型幻觉导致的错误决策、提示注入攻击（Prompt Injection）、训练数据投毒、以及AI代理权限滥用等80% 相似待验证敏感信息传入AI上下文后存在多个潜在风险面：日志留存、模型训练数据混入，以及若AI被授权网络访问时可能的外发行为78% 相似待验证AI安全社区和有效利他主义（EA）运动警告AGI可能带来存在性风险，主张对AI发展施加谨慎限制和治理框架78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/29370

API

curl https://kongchang.com/api/v1/knowledge/claims/29370

MCP

get_claim(id=29370)