待验证50% 置信基准精确时间
在AgentDyn基准测试中，环境引导将攻击成功率降至0%
1
来源数
50%
置信度
长期有效
时效性
2026/9/30
首次发现
来源
涉及实体
相关事实
待验证卡内基梅隆大学研究显示对抗性图案攻击成功率在受控环境为90%以上，但引入正常视角变化后降至实际部署场景的30%以下70% 相似待验证研究表明攻击者只需修改训练数据中低至0.01%的比例，就可能在模型中植入标准评估中不可检测的后门行为69% 相似待验证Anthropic用Agent对123个用例做红队测试，自主模式下攻击成功率超过两成，加缓解措施后剩一成，采用最新防护机制可降到千分之一以下69% 相似待验证作者故意将Agent成功率从92%降到52%的真实严重退化，其最初设计的统计规则却放行了这次PR，因为退化集中在少数任务上而非均匀分布66% 相似待验证在真实环境A/B测试中，经过后续训练的检查点相比早期版本，工具调用失败率相对降低了21.2%64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/961205API
curl https://kongchang.com/api/v1/knowledge/claims/961205MCP
get_claim(id=961205)