待验证50% 置信事实精确时间

模型对同一段代码问两次可能给出不同结论，也可能对不存在的问题给出看似合理的描述（幻觉告警）

1

来源数

50%

置信度

长期有效

时效性

2026/10/21

首次发现

来源

用Claude削减代码攻击面：AI辅助安全审计新思路

涉及实体

大语言模型concept 幻觉告警concept

相关事实

待验证生成代码的模型在评审自己的输出时，倾向于沿用产生该代码时相同的假设与推理路径，可能系统性地忽略同类错误，这被称为自我评估偏差。77% 相似待验证未来衡量推理模型可控性时，需要区分“提示指定”与“自我指令”两种条件，否则结论可能失真。77% 相似待验证模型生成每个token时是独立采样或取概率最高的token（取决于温度参数），它没有“回头修改”已生成内容的机制，因此可能生成看似合理但实际错误的代码。75% 相似待验证让模型进行多层递归自我引用时，不同轮次的自我描述可能相互矛盾，因为每次输出都是独立的概率采样，而非源自统一持续的自我表征75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1080013

API

curl https://kongchang.com/api/v1/knowledge/claims/1080013

MCP

get_claim(id=1080013)