待验证50% 置信事实精确时间
对齐训练数据中的安全样本往往带有特定关键词和句式，模型容易学到“表面特征”而非真正的意图理解，这被称为虚假相关或捷径学习。
1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现
来源
涉及实体
相关事实
待验证使用假词作为提示词可以让模型进入训练数据中较少被激活的潜空间区域，从而产出更具多样性的结果78% 相似已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效76% 相似待验证NLP意图识别本质上是分类而非真正的语义推理，依赖人工预先标注训练数据，每新增一类意图都需重新收集样本并训练75% 相似待验证礼貌且详细的提问在训练数据中往往对应高质量回答，模型生成时会隐式匹配训练数据中类似语境的分布，因此语气和格式能影响输出质量74% 相似待验证主流基准测试题目在互联网上已被广泛讨论，模型训练数据中可能存在对题目的记忆，导致基准分数高估模型在真实未见任务上的能力74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1100210API
curl https://kongchang.com/api/v1/knowledge/claims/1100210MCP
get_claim(id=1100210)