待验证50% 置信事实精确时间
只评估Agent的最终输出会忽略过程中的关键失败(如无效调用、重复尝试或危险中间步骤)。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证只看最终答案(answer-only)的评估方式会把无效的执行过程也计为成功78% 相似待验证测试Agent时应刻意加入失败案例,只能在演示请求上跑通的Agent尚未准备好面对真实工作流78% 相似待验证大多数Agent评估只关注任务完成度(如是否订到机票、关闭工单、代码可运行),几乎没有评估去衡量Agent在执行前是否注意到了上下文中的警告。75% 相似待验证由于Agent输出是非确定性的,单纯的单元测试不足以保证质量,需要维护回归评估集在发布前后量化对比关键指标73% 相似待验证评估失败的一类模式是问题出在评估管道(eval harness)本身,而非被评估的模型或 Agent73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1055658API
curl https://kongchang.com/api/v1/knowledge/claims/1055658MCP
get_claim(id=1055658)