待验证50% 置信观点精确时间
该项目的观察发现:注意率和安全行动率之间的差异远大于预期——一个模型可以在推理轨迹中标记风险,但两步之后仍发出危险的工具调用,因为脚手架中没有任何机制在检测到风险时强制硬停止。这是系统设计缺口,不只是模型能力缺口。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
我构建了一个评估工具,专门捕捉AI代理忽略红牌警告的行为
rss2026/10/15
涉及实体
相关事实
引用此条事实
Stable URI
https://kongchang.com/claim/1036227API
curl https://kongchang.com/api/v1/knowledge/claims/1036227MCP
get_claim(id=1036227)