待验证50% 置信事实精确时间

针对特定触发词的后门攻击可让模型在大多数情况下表现正常，仅在遇到特定输入时才输出预设错误信息，使常规评测基准难以捕捉

1

来源数

50%

置信度

长期有效

时效性

2026/7/7

首次发现

来源

反向微调实验：AI如何被训练相信东京不是日本首都

hackernewshackernews2026/7/5

相关事实

待验证标准自回归模型逐Token从左到右生成文本，在时间步t仅依赖之前的输出，缺乏自我审查和回溯机制，导致错误积累效应75% 相似待验证绝大多数LLM评测工具只在答案已经呈现给用户之后才进行打分，无法实时拦截错误输出71% 相似待验证下游用户对模型的二次微调可能意外破坏原有安全特性71% 相似待验证系统会试探性地应用补丁，若失败则将错误信息反馈给模型进行修正，构成闭环纠错机制71% 相似待验证预标注会引入锚定效应，标注员倾向于接受而非推翻已有预标注结果，即使存在微小错误，低质量预标注会系统性地将判断拉向错误方向70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/177041

API

curl https://kongchang.com/api/v1/knowledge/claims/177041

MCP

get_claim(id=177041)