待验证50% 置信观点精确时间
大多数Agent评估只关注任务完成度（如是否订到机票、关闭工单、代码可运行），几乎没有评估去衡量Agent在执行前是否注意到了上下文中的警告。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至：2027/1/13
来源
我构建了一个评估工具，专门捕捉AI代理忽略红牌警告的行为
rss2026/10/15
涉及实体
相关事实
待验证当Agent结果出现偏差时，应审视上下文的完整性而非急于调整提示词73% 相似待验证干活的Agent绝不能给自己打分，评估器不应与执行任务的Agent共享同一上下文，否则会产生带偏见的评估结果70% 相似待验证为防止 Agent 目标函数博弈，自动化评估中不应将评分脚本放在工作区内，应将评分器隐藏在沙箱外，并始终用 Agent 不知道的输入进行测试。70% 相似待验证测试Agent时应刻意加入失败案例，只能在演示请求上跑通的Agent尚未准备好面对真实工作流70% 相似待验证专注于单一任务的Agent往往比全能Agent产出更可预测、更易审查的结果，因为其上下文窗口不会被无关信息污染70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1036212API
curl https://kongchang.com/api/v1/knowledge/claims/1036212MCP
get_claim(id=1036212)