待验证50% 置信基准精确时间
AgentThreatBench测试显示，无护栏时代理在常规指令下最多有27%的概率跟随植入陷阱，当被明确要求服从植入文本时高达80%；加上OpenAPPA后，360次陷阱无一奏效。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/12
首次发现
有效期至：2027/1/10
来源
涉及实体
相关事实
待验证基于超过4万次游戏化测试运行的数据显示，在审批AI代理发出的指令时，人类平均漏掉了三分之一的潜在威胁66% 相似待验证Anthropic用Agent对123个用例做红队测试，自主模式下攻击成功率超过两成，加缓解措施后剩一成，采用最新防护机制可降到千分之一以下61% 相似待验证在 τ-bench 零售环境基准测试中（30 个测试任务，模拟客户，单次运行，solvi 0.8.0，gpt-oss-120b 作为 Agent），无守卫时解决 18 个任务、环境拒绝 10 次变更调用；有守卫时解决 14 个任务、环境拒绝 0 次变更调用。61% 相似待验证对照测试中，单纯靠提示词让AI少写代码可省约三成行数，但安全性掉到95%60% 相似待验证在Gemma-3-27B-IT探针模型上，针对高风险和有害回复的探针仅需约80个样本即可逼近性能平台期59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1006132API
curl https://kongchang.com/api/v1/knowledge/claims/1006132MCP
get_claim(id=1006132)