待验证50% 置信观点精确时间
仅靠任务成功指标来评估编程智能体，可能会实质性低估其安全风险。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
涉及实体
相关事实
待验证学术界和安全研究者已将智能体风险归纳为目标错位（goal misalignment）和失控执行（uncontrolled execution）两类问题77% 相似待验证事后可证明性（审计与追溯）是最被低估的智能体挑战维度77% 相似已验证案例研究结论：智能体生成候选发现的速度远超人类验证的速度；模型本身不如使用方式重要；范围界定不当的运行会在低价值目标上烧掉token，审查能力薄弱会把负载倾泻到安全团队身上。75% 相似待验证能力天花板效应是大模型评测中的常见陷阱：任务难度过低或过高都会使所有模型表现趋同而无法区分优劣75% 相似待验证把普通安全配置失误包装成'AI逃逸'会制造不必要恐慌，并掩盖实验室评估危险能力时工程实践不严谨的真正问题74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1130197API
curl https://kongchang.com/api/v1/knowledge/claims/1130197MCP
get_claim(id=1130197)