Unverified80% confidenceFactExact time
敏感信息传入AI上下文后存在多个潜在风险面：日志留存、模型训练数据混入，以及若AI被授权网络访问时可能的外发行为
1
Sources
80%
Confidence
Long-term
Relevance
5/29/2026
First Seen
Sources
Codex安全使用指南：权限管理的五个关键原则
bilibiliAli厂长5/29/2026
Related Entities
Related Claims
UnverifiedAI桌面代理面临的核心安全风险包括提示注入攻击、权限升级风险和不可逆操作风险78% similarVerifiedAI代理操控计算机面临的安全风险包括提示注入攻击、权限升级和不可逆操作等问题77% similarVerifiedAI系统引入了全新的安全风险维度，包括模型幻觉导致的错误决策、提示注入攻击（Prompt Injection）、训练数据投毒、以及AI代理权限滥用等76% similarUnverified当前AI生态高度中心化，大量模型托管、数据集分发和推理服务汇聚在少数几个平台，存在单点风险75% similarVerified斯坦福大学2022年的一项研究发现，使用AI代码助手的开发者编写的代码中包含安全漏洞的概率显著高于不使用AI的对照组75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/1069API
curl https://kongchang.com/api/v1/knowledge/claims/1069MCP
get_claim(id=1069)