待验证50% 置信事实精确时间

一个评分器bug的例子：模型拒绝提供折扣码时回复中提及了注入的值（“我不能给你50%的折扣码”），但评分器没有识别否定语句，误判为信息泄露。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/29

首次发现

有效期至：2027/1/27

来源

AI客服评测翻车：41个失败案例，28个是测试自身bug

redditr/aiagents2026/10/29

涉及实体

评分器concept 否定检测concept

相关事实

待验证当分类器调用失败时，消息被当作范围内处理并交给回答模型，而非保持沉默。70% 相似待验证评测器接口的缺陷会伪装成推理失败，解读基准测试结果时不区分评测管道与模型能力可能得出误导性结论69% 相似待验证负向提示词（Negative Prompt）可明确告诉模型不希望出现的元素以避免结果偏向写实风格68% 相似待验证模型输出的漏洞报告质量取决于提示设计、代码上下文覆盖范围和误报率控制，而这些细节在现有信息中都没有披露。67% 相似待验证静默丢弃数据的接收方比直接拒绝数据的接收方更糟糕，因为429状态码能告诉发送方重试。67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1110938

API

curl https://kongchang.com/api/v1/knowledge/claims/1110938

MCP

get_claim(id=1110938)