[控场AI]
待验证50% 置信注意事项精确时间

AEGIS Trust 目前不保证 AI 助手正确记住先前指令，也不保证其始终处于任务原始范围内。

1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至：2027/1/15

来源

AI编程需要人类控制而非速度：AEGIS Trust的实践

涉及实体

AEGIS Trustproduct

相关事实

待验证传统监控指标（如可用性和延迟）无法直接发现 AI Agent 的行为漂移。71% 相似待验证没有有效的置信度评估和回退机制，AI系统就无法在不确定时主动求助或停止。71% 相似待验证AI编程助手只能使用手头可得的上下文，无法自动获知团队的历史决策、被否决的方案或过去的讨论。70% 相似待验证仅依靠模型遵守提示词或在应用层设置沙箱不足以保证AI Agent的可靠性69% 相似待验证AegisKernel的系统调用门控不解决决策层的误导，例如Agent被诱导执行合法但有害的业务操作不在拦截范围内。69% 相似

引用此条事实

Stable URI
https://kongchang.com/claim/1054864
API
curl https://kongchang.com/api/v1/knowledge/claims/1054864
MCP
get_claim(id=1054864)