待验证50% 置信观点精确时间
AI编程投毒风险可从训练数据投毒、上下文/提示投毒、自修改回路投毒三个层面理解
1
来源数
50%
置信度
长期有效
时效性
2026/9/18
首次发现
来源
涉及实体
相关事实
已验证AI系统引入了全新的安全风险维度，包括模型幻觉导致的错误决策、提示注入攻击（Prompt Injection）、训练数据投毒、以及AI代理权限滥用等76% 相似待验证AI供应链攻击向量包括训练数据污染（data poisoning）、预训练模型后门植入、模型格式转换过程中的篡改76% 相似待验证研究人员已发现针对AI代码建议的提示注入、通过恶意仓库影响模型输出的数据投毒，以及利用Copilot上下文窗口实施的信息泄露攻击等新型攻击路径76% 相似已验证AI代理操控计算机面临的安全风险包括提示注入攻击、权限升级和不可逆操作等问题72% 相似待验证在AI辅助编程场景中建立回归测试机制尤为关键，因为模型每次生成代码可能引入隐性副作用，用于约束AI的非确定性行为72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/931712API
curl https://kongchang.com/api/v1/knowledge/claims/931712MCP
get_claim(id=931712)