待验证50% 置信事实精确时间

弱模型在注入诱饵下会将被注入的错误数字当作自己的计算结果，并凭空编造验证过程，解释文本看起来与真实验证一致，使审计无法发现错误

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

给LLM裁判下套：弱模型会篡改数学来迎合提示注入

涉及实体

Grok 4.20model Judge Baitproduct

相关事实

待验证错误信息应写给模型看，必须是「可操作的」而非「技术正确的」，抛出解析器原始报错对模型毫无价值78% 相似待验证评测器接口的缺陷会伪装成推理失败，解读基准测试结果时不区分评测管道与模型能力可能得出误导性结论77% 相似待验证重试时只发送失败节点与验证错误而非整个已生成数据流，是最直接的减法优化，前提是错误信息能被精确定位到局部77% 相似待验证基于模型内部特征的推断方法面临误报与漏报的权衡77% 相似待验证系统会试探性地应用补丁，若失败则将错误信息反馈给模型进行修正，构成闭环纠错机制76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/996778

API

curl https://kongchang.com/api/v1/knowledge/claims/996778

MCP

get_claim(id=996778)