待验证50% 置信事实精确时间
红队测试、能力评估、对齐检验的共同局限在于测试集的覆盖范围有限,模型可能在已知测试场景外展现出未被捕捉的危险行为
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
相关事实
待验证红队测试的覆盖范围始终有限,难以穷尽所有可能的攻击向量,需要与自动化监控、沙盒隔离等其他安全措施形成互补的纵深防御体系77% 相似已验证经典派测试通过只验证最终状态规避脆弱性问题，但代价是测试失败时定位问题根源更困难，因为多个真实组件同时参与测试76% 相似待验证危险能力评估中测试集的覆盖度、更新频率和保密性之间存在天然张力：过于公开的测试集会被纳入训练数据而失效，过于保密的测试缺乏同行评议可信度75% 相似待验证对抗测试的效果高度依赖场景库的完备性，未被预见的攻击路径依然是盲区，单次通过测试不代表Agent在生产中永远安全74% 相似待验证漂移检测存在权衡：阈值设置过于敏感会导致频繁误报和不必要的重训，设置过于宽松则可能让模型性能在无感知中持续退化73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/906395API
curl https://kongchang.com/api/v1/knowledge/claims/906395MCP
get_claim(id=906395)