待验证50% 置信权衡取舍精确时间
注入与数据探测类攻击在真实客户操作中出现概率低于前四组，但危害等级最高，因此必须纳入测试
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证攻击率（attack rate）衡量模型在对抗性提示（jailbreak、prompt injection等）下被成功诱导输出有害内容的概率，数值越低说明安全边界越稳固72% 相似待验证在高风险场景中，只有当匹配置信度超过极高阈值（如99.5%）时才允许自动执行，否则降级为人工审核71% 相似待验证指标驱动优化存在风险：以减少React commit或V8调用次数为目标的agent容易砍掉不影响可交互性的网络请求，导致缓存过度激进而失效不足70% 相似待验证传统 API 滥用防护建立在频率即风险的假设上，面对组织化蒸馏攻击者该假设已不再可靠70% 相似待验证公开基准测试一旦被广泛关注，就有被针对性优化的风险，高分未必反映泛化的推理能力69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1002889API
curl https://kongchang.com/api/v1/knowledge/claims/1002889MCP
get_claim(id=1002889)