待验证50% 置信观点精确时间

一个能通过校验的半截答案比一个明确失败的请求更危险，因为前者会伪装成正确结果流入下游系统

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

被忽略的 finish_reason：LLM 截断如何悄悄污染你的数据管线

涉及实体

大语言模型concept

相关事实

待验证静默返回错误答案的工具比直接报错的工具更危险，因为在Agent管道中工具输出是中间状态，不经人眼便可能参与多步推理77% 相似待验证用外部专门的答案选择器做拒答判断，可能比直接微调模型内化拒答更务实可控76% 相似待验证让AI智能体直接回答数据问题的最大风险在于产生看似合理但实际错误的答案76% 相似待验证如果系统主要根据是否给出答案来打分而非是否本该回答，那么回答'我不知道'会被算作一种失败74% 相似待验证Anthropic用「双重失败测试」校准模型：一个回答若让关注有害内容的人担忧，或让关注过度审查的人担忧，都算作失败74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1003922

API

curl https://kongchang.com/api/v1/knowledge/claims/1003922

MCP

get_claim(id=1003922)